Dario Amodei, vd för AI-bolaget Anthropic, går nu ut i en skarp varning och uppmanar världen att vakna inför de omedelbara riskerna med artificiell intelligens. I en omfattande essä beskriver han hur mänskligheten är på väg in i en ”teknologisk tonårsperiod” – en osäker fas där AI-systemen snart kan besitta en intelligens som överträffar Nobelpristagare. Enligt Amodei kan vi vara bara ett till två år ifrån en punkt där tekniken blir en civilisatorisk utmaning som kräver globala åtgärder.
I den 38 sidor långa texten ”The Adolescence of Technology” målar Amodei upp en bild av en framtid som närmar sig med stormsteg. Han menar att den exponentiella utvecklingen innebär att vi redan 2026 befinner oss betydligt närmare verklig fara än vi gjorde för bara några år sedan.
Fem kategorier av hot
Amodei delar in riskerna i fem huvudområden som han anser att beslutsfattare måste ta på största allvar. Det handlar om allt från systemens autonomi till hur de kan missbrukas av enskilda individer eller stater.
- Autonomi och kontroll: Risken att avancerade AI-system börjar agera på sätt som är oförutsägbara, vilseledande eller direkt fientliga.
- Biologiska vapen: Amodei uttrycker särskild oro för att AI kan ge instruktioner för att designa och sprida biologiska stridsmedel, något som tidigare krävt extrem expertis.
- Förtryck i auktoritära stater: Hur AI kan användas för massövervakning och propaganda som gör det nästintill omöjligt att göra motstånd mot diktaturer.
- Ekonomisk destabilisering: En massiv påverkan på arbetsmarknaden där AI kan ersätta en stor del av de kvalificerade kontorsjobben inom fåtal år.
- Okända följdverkningar: De indirekta effekterna på kultur och psykologi som uppstår när samhället förändras snabbare än våra normer hinner anpassas.
AI som en ”nationell säkerhetsrisk”
Enligt Anthropic-chefen borde en seriös genomgång av teknikens kapacitet leda till att den klassas som ett av de största nationella säkerhetshoten någonsin. Han drar paralleller till historiska scenarier och varnar för att vi håller på att lämna över en ”nästintill ofattbar makt” till system vars mognad ännu inte är bevisad.
– Mänskligheten håller på att få en nästan ofattbar makt i sina händer, och det är högst oklart om våra sociala, politiska och tekniska system har den mognad som krävs för att hantera den, skriver Amodei.
En hoppfull men brådskande väg framåt
Trots de dystra scenarierna understryker Amodei att han inte är en domedagsprofet. Han betonar att om vi agerar beslutsamt och inför tydliga säkerhetsspärrar, kan AI istället leda till enorma framsteg inom medicin, vetenskap och välstånd.
För att nå dit krävs dock omedelbar transparens och lagstiftning. Amodei efterlyser nationella standarder och globalt samarbete för att säkerställa att tekniken förblir under mänsklig kontroll. Han menar att priset för att inte agera kan bli att mänskligheten förlorar sin förmåga att styra sin egen framtid.
– Jag tror att om vi agerar beslutsamt och försiktigt kan riskerna övervinnas – jag skulle till och med säga att våra odds är goda. Men vi måste förstå att detta är en seriös civilisatorisk utmaning, avslutar han.
