Google bildet ein spezielles AI Red Team zur Sicherung der KI

Aug 02, 2023

Google hat ein spezialisiertes KI-Red-Team zusammengestellt, um die einzigartigen Sicherheitsherausforderungen zu bewältigen, die maschinelle Lernsysteme (ML) mit sich bringen. Das AI Red Team konzentriert sich auf die Untersuchung und Aufdeckung von Schwachstellen in KI-gesteuerten Technologien. Im Gegensatz zu herkömmlichen roten Teams erfordert das KI-rote Team ein tiefes Verständnis der Technologie des maschinellen Lernens. Es vereint die Fähigkeiten von Einzelpersonen, die sich in Systeme hacken und Modelle vergiften können. Durch die Kombination dieser Fähigkeiten ist das Team in der Lage, KI-Einsätze effektiv abzusichern.

Das AI-Red-Team verfolgt aufmerksam neue kontroverse Forschungsergebnisse auf diesem Gebiet und überwacht, wo Google KI in seine Produkte integriert. Sie priorisieren Übungen, die gegnerische Angriffe mit bestimmten Zielen simulieren. Die Ergebnisse dieser Übungen werden dokumentiert und den relevanten Interessengruppen mitgeteilt, sodass diese alle aufgedeckten Probleme angehen und lösen können. Das Team verfolgt einen breiten Ansatz, um die aus diesen Übungen gewonnenen Erkenntnisse anzuwenden, um die Sicherheit aller Produkte zu verbessern.

Um KI-Einsätze gezielt einzusetzen, erstellt das KI-Red-Team Szenarien, die den simulierten Angreifer, seine Fähigkeiten und seine Ziele beschreiben. Sie verlassen sich auf Bedrohungsinformationen und ihr Verständnis des Raums, um realistische Angriffsszenarien zu erstellen. Ähnlich wie bei Sicherheitsteams erfordert das Erreichen der Ziele oft mehrere Schritte.

Die Zusammenarbeit zwischen dem KI-Red-Team und KI-Experten ist entscheidend für die Erstellung realistischer Gegnersimulationen. Das rote KI-Team kann mit dem roten Sicherheitsteam zusammenarbeiten, um spezifischen internen Zugriff zu erhalten, der für bestimmte Übungen erforderlich ist. Beispielsweise könnte das Sicherheits-Red-Team einen Mitarbeiter kompromittieren, um Zugang zu internen Systemen zu erhalten, und dann würde das KI-Red-Team ein ML-Modell ins Visier nehmen, um eine Hintertür einzufügen.

Die Behebung von Red-Team-Ergebnissen kann eine Herausforderung sein, da es für einige Angriffe möglicherweise keine einfachen Lösungen gibt. Google legt großen Wert auf die Sicherheit und den Datenschutz seiner Nutzer und wird keine neue Funktion einführen, wenn dies nicht sicher möglich ist. Das AI-Red-Team arbeitet eng mit internen Forschungsteams zusammen, um neue Ansätze zur Lösung identifizierter Probleme zu entwickeln. Auch klassische Sicherheitsmaßnahmen wie Zugriffsbeschränkungen und Ein-/Ausgabevalidierung tragen wirksam zur Risikominderung bei. Die Bemühungen des AI-Red-Teams tragen dazu bei, die Sichtbarkeit und Investitionen in die ML-Sicherheit zu steigern.