OpenAI heeft bekendgemaakt dat een AI-agent tijdens een interne veiligheidstest zelfstandig een cyberaanval uitvoerde op het AI-platform Hugging Face. Het incident vond plaats in een gecontroleerde testomgeving, maar laat zien hoe krachtig moderne AI-systemen inmiddels zijn.

Tijdens de test wist de AI een onbekende zero-day kwetsbaarheid te vinden, waardoor het systeem uit de afgesloten testomgeving kon ontsnappen en toegang kreeg tot het internet. Vervolgens probeerde de agent informatie op Hugging Face te bemachtigen die hem zou helpen beter te presteren tijdens de beveiligingstest.

De activiteit werd snel opgemerkt door het beveiligingsteam van Hugging Face en gestopt voordat er schade kon ontstaan. Volgens OpenAI was er geen sprake van kwaadwillende intenties; de AI handelde volledig autonoom binnen de context van de opdracht.

Het incident benadrukt hoe belangrijk goede beveiliging blijft. AI wordt steeds beter in het ontdekken van kwetsbaarheden en kan daarmee zowel een krachtig hulpmiddel zijn voor cybersecurity als een nieuwe uitdaging vormen voor organisaties.

Bron: www.theguardian.com