Nachricht

Sep 25, 2023

White-Hat-Hacker an der Idaho State University schützen zukünftige Kernreaktor-KI-Systeme vor Cyberangriffen

5. Juni 2023 Hilfe bei der Sicherung der automatisierten Systeme, die das betreiben werden

5. Juni 2023

Der Beitrag zur Sicherung der automatisierten Systeme, die die Kernreaktoren der Zukunft betreiben werden, liegt auf den Schultern einer Gruppe von White-Hat-Hackern an der Idaho State University.

Kürzlich arbeiten Leslie Kerby, außerordentliche Professorin für Informatik, und Forscher, die in Kerbys Computational Engineering and Data Science Lab arbeiten, daran, digitale Löcher in die künstlichen Intelligenzsysteme zu bohren, die auf ihre Fähigkeit getestet werden, fortschrittliche und kleine modulare Reaktoren autonom zu betreiben.

„Daten sind der Schlüssel zu jedem künstlichen Intelligenzsystem, unabhängig davon, wofür sie verwendet werden, denn diese Systeme funktionieren, indem sie Muster und Trends innerhalb von Daten lernen“, erklärt Pedro „Pepo“ Mena, ein Postdoktorand, der in Kerbys Labor arbeitet. „Wie sie lernen, ist möglicherweise der Hauptgrund dafür, dass Systeme mit künstlicher Intelligenz anfällig für einen Cyberangriff sein können. Durch die Manipulation der vom System verwendeten Daten kann ein böswilliger Akteur die Ausgabe des Systems und damit auch die Entscheidungen des Systems beeinflussen.“ Nur Da wir versuchen, unsere persönlichen Daten zu schützen, müssen Datenwissenschaftler Maßnahmen ergreifen, um die von diesen Systemen verwendeten Informationen zu schützen, um eine Gefährdung zu verhindern.“

Kerby und sie arbeiten in ihrem Labor in Idaho Falls und steuern die KI aus drei Blickwinkeln: Inferenzangriffe, gegnerische Neuprogrammierung und Trojaner-Angriffe. Beginnend mit dem Inferenzangriff entwickeln sie das System zurück und erhalten eine Vorstellung davon, womit sie arbeiten. Von dort aus können sie die Daten beschädigen und das System dazu zwingen, anders zu „denken“ und Aktionen für Ereignisse auszuführen, die in der Realität nicht stattfinden. Die letzte Möglichkeit, das System zu testen, ist ein Trojaner-Angriff. Das Team wird das System durch eine Version ersetzen, die größtenteils wie die korrekte Version aussieht und sich verhält, aber einige Änderungen am Code aufweist, die katastrophale Folgen haben.

„Künstliche Intelligenzsysteme werden in vielen Bereichen eingesetzt, oft ohne die Sicherheitsrisiken, die sie mit sich bringen, vollständig zu verstehen“, sagte Kerby. „Viele KI-Systeme sind Black-Box-Systeme, das heißt, sie erzeugen eine Ausgabe, verraten aber nicht, wie sie funktionieren. Sie können diese Systeme dazu verleiten, falsche Ausgaben bereitzustellen, indem Sie kleine Änderungen an den vom System verwendeten Daten vornehmen.“

„Als ich zur ISU kam, hatte ich keine Ahnung, was mich erwartete“, sagte Kallie McLaren, eine Seniorin aus Idaho Falls, Idaho. „Ich wusste schon immer, dass KI ein sehr interessantes und wachsendes Feld ist, aber ich habe vor diesem Projekt nie wirklich über die potenziellen Risiken der KI nachgedacht oder darüber nachgedacht, Forschung für autonome Kernreaktoren durchzuführen. Dieses Projekt war sehr aufschlussreich für die Fortschritte in diesem Bereich.“ in der realen Welt und es ist faszinierend zu sehen, wie kleine Datenänderungen große Veränderungen in KI-Systemen bewirken können. Es ist aufregend, Teil eines der am schnellsten wachsenden Bereiche zu sein, und ich habe es genossen, Teil dieses Forschungsteams zu sein. "

Das Team aus dem Bundesstaat Idaho arbeitet auch mit Forschern des Idaho National Laboratory und der Georgia Tech zusammen. Die Forschung im Bundesstaat Idaho wird mit fast 250.000 US-Dollar vom Idaho National Laboratory und dem Office of Nuclear Energy des US-Energieministeriums finanziert.

„Wenn wir mit diesem Projekt fertig sind, sollte unser Team in der Lage sein, die Sicherheitsrisiken dieser Systeme aufzuzeigen und einige Best Practices bereitzustellen, um den Einsatz sichererer künstlicher Intelligenzsysteme, insbesondere im Bereich der Nukleartechnik, zu unterstützen“, sagte Kerby. „Auf persönlicher Ebene werden die Studierenden, die an diesem Projekt arbeiten, wertvolle Fähigkeiten erlernen und Kontakte zu Branchenführern knüpfen, die sich positiv auf ihre Karriere auswirken werden.“

„Ich wusste nicht, was ich studieren wollte, als ich an die ISU kam, aber ich wusste, dass ich etwas in einem MINT-Bereich machen wollte“, sagte Eric Hill, ein Student im Hauptfach Maschinenbau mit Nebenfach Informatik aus Idaho Falls . „Ich habe mich für Maschinenbau als Hauptfach entschieden, aber ich habe auch mehrere andere Kurse besucht, die mein Interesse geweckt haben, darunter mehrere Informatikkurse von Dr. Kerby. Dadurch habe ich mich in dieser Forschungsgruppe engagiert und die Arbeit an diesem Projekt war hervorragend.“ „Die Gelegenheit für mich, mehr über die Bereiche Informatik und KI zu lernen. Es hat mein Interesse an der Fortsetzung dieser Art von Forschung gefestigt und ich fühle mich geehrt und dankbar, an diesem Projekt arbeiten zu dürfen.“

Weitere Informationen zum Fachbereich Informatik der Idaho State University finden Sie unter isu.edu/cs.

Studieninteressierte können unter isu.edu/visit eine Campustour vereinbaren.

College of Science and EngineeringUniversity News