/

21 december 2021

Experiment verkennen tegenmaatregelen autonome systemen gestart

In het derde kwartaal van 2021 zijn drie test-sessies gehouden door studenten van hogeschool Fontys. Hierin hebben ze de hack-bestendigheid (PEN-Test) van onze robots beproefd. (Boston Dynamics Spot; operationeel platform & Unitree A1; test en ontwikkelplatform).

Het doel is tweeledig:

  1. Beter beschermen van de eigen autonome systemen (ontwikkelen van een algemeen toepasbare PEN test voor au-tonome systemen)
  2. Ontwikkelen handelings-perspectief “vreemde” robots.

Uit de test-sessies kwam naar voren dat:

  1. Robot Spot een degelijke basis beveiliging heeft maar nog kwetsbaar is voor specifieke soorten aanvallen (rapportage opvraagbaar). Effect van de aanvallen varieerde van minder goede controle op de besturing tot totaal verlies op controle. De robot schakelde in dat geval over naar de veilige modus waarin de robot (voor niemand) bruikbaar is.
  2. De fabrikant van Spot de gevonden veiligheid-risico’s snel heeft gedicht. De oplossing bestond deels uit het veranderen van instellingen en deels uit een software update.
  3. Unitree A1 een onbeveiligd systeem is wat om die reden uitermate geschikt is voor het verkrijgen van inzicht in cyber security aspecten van robots in meer algemene zin.

Nieuw te onderzoeken vragen:

  1. Kan toegang tot (data uit) het sensorpakket van Spot worden verkregen?
  2. Kan de besturing van Spot worden overgenomen?
  3. Welke signalen van en naar de Unitree A1 robot kunnen worden opgevangen?
  4. Wat kan er met deze opgevangen signalen worden gedaan?
  5. Wat is het effect hiervan?

Hoe gaan we verder?

In januari 2022 wordt de laatste test-sessie gehouden waarin bovengenoemde vragen centraal staan. Februari 2022 wordt de eindrapportage opgeleverd.