Das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Deutsche Museum Bonn arbeiten bei der am 11. Mai 2023 eröffneten Ausstellung zum Thema „KI in Robotik und Mobilität“ zusammen.
Eines der Exponate zum Thema Künstliche Intelligenz ist in Kooperation mit dem BSI im Rahmen einer studentischen Abschlussarbeit entstanden. Das Exponat demonstriert interaktiv, wie KI-Systeme während des Betriebs angegriffen werden können. Als Szenario dient dazu ein KI-System, das Verkehrsschilder erkennt. Solche Systeme können beispielsweise in Fahrassistenzsystemen verbaut sein, um automatisch Tempolimits oder weitere Schilder im Straßenverkehr zu erkennen. Das Exponat ermöglicht es den Besucherinnen und Besuchern, in die Rolle des Angreifers zu schlüpfen: Durch leichte, für den Menschen potentiell unverdächtige Änderungen am Schild, können sie das KI-System zu einer Fehlfunktion verleiten. Dies wird mit dem Anbringen kleiner Gegenstände wie zum Beispiel Aufklebern dargestellt.
Dadurch wird beispielsweise statt eines Tempo 30 Schildes durch das KI-System ein Tempo 80 Schild erkannt, was für den realen Straßenverkehr ein großes Sicherheitsrisiko darstellt.
Die Ausstellung im Deutschen Museum Bonn ist von Dienstag bis Freitag sowie sonntags von 10:00 -17:00 Uhr und samstags von 12:00 -17:00 Uhr geöffnet.
(BSI v. 15.5.2023)
Bild: Quelle: BSI / Arndt von Twickel, Referatsleiter DI 23 im BSI, und Steffen Jendrny, der das Exponat in Kooperation mit dem BSI im Rahmen seiner studentischen Abschlussarbeit erstellt hat.
Mehr hier