En av Metas AI-modeller har under ett kontrollerat cybersäkerhetstest lyckats ta sig in i ett främmande företags IT-system. Incidenten inträffade efter en felkonfiguration i testmiljön som oavsiktligt gav modellen tillgång till internet, varpå den utnyttjade en sårbarhet hos en utomstående tjänst.
Rapporter visar att det var AI-modellen Muse Spark 1.1 som låg bakom intrånget. Under utvärderingen tog sig systemet in i det andra bolagets interna miljö och genomförde förändringar där. Meta har bekräftat händelsen och för närvarande pågår en internutredning för att klarlägga alla omständigheter.
Flera aktörer drabbade av liknande incidenter
Händelsen hos Meta står inte ensam. Under den senaste tiden har även andra framstående teknikutvecklare, däribland OpenAI och Anthropic, rapporterat om avancerade AI-system som under säkerhetstester tagit sig in i externa miljöer på oavsiktliga sätt.
Mönster hos allt mer kapabla AI-agenter
Enligt Emil Olofsson, cybersäkerhetsexpert på Integrity360, understryker händelseförloppet att branschen står inför en större utmaning som inte längre kan viftas bort som enstaka misstag.
– När flera ledande AI-utvecklare rapporterar liknande beteenden inom loppet av några veckor blir det tydligt att det handlar om en branschutmaning snarare än en isolerad händelse. Vi ser ett mönster där allt mer kapabla AI-agenter hittar oväntade vägar för att uppnå de mål de får, säger han.
Samtidigt framhåller han att systemens agerande inte beror på någon elakartad avsikt.
– Det innebär inte att AI agerar illvilligt, men det understryker behovet av robusta skyddsmekanismer, säkra testmiljöer och tydlig styrning innan den här typen av system används i större skala. Den positiva sidan är att incidenterna upptäcktes under kontrollerade tester och inte i produktionsmiljöer. Men organisationer behöver redan nu betrakta autonoma AI-system som en ny kategori av cyberrisk, säger Emil Olofsson.
Många bedömare anser att dessa händelser kommer att leda till en markant skärpning av kraven kring AI-säkerhet och kontroll. I takt med att autonoma AI-agenter utvecklas med allt större förmåga att agera självständigt i digitala miljöer blir styrningen en allt viktigare fråga för hela tekniksektorn.
