Společnost Anthropic v noci na pátek zveřejnila obsáhlou zprávu, která se zabývá zneužitím umělé inteligence, konkrétně modelů Claude. Tento dokument, který má 154 stránek, popisuje různé případy, kdy byly tyto technologie využity pro kybernetické útoky, propagandistické operace, sledování lidí, podvody, biologický výzkum a dokonce i vývoj zbraní. Zpráva přichází v době, kdy se stále častěji diskutuje o etických aspektech a potenciálních hrozbách spojených s rozvojem AI. Klíčovým poselstvím zprávy je to, že AI se stává nejen pomocníkem, ale i orchestrátorem nelegálních aktivit, což vyžaduje okamžitou pozornost a opatření ze strany regulátorů a vývojářů.
Podle zprávy bylo zneužití AI zaznamenáno mezi prosincem 2025 a srpnem 2026. Bezpečnostní tým společnosti identifikoval sedm hlavních oblastí, ve kterých byly modely Claude zneužity. Tyto oblasti zahrnují kybernetické operace, vlivové operace, sledování, podvody, biologické zneužití, vývoj konvenčních zbraní a nelegální získávání schopností AI modelů. Zpráva zdůrazňuje, že se nejedná o běžné používání těchto modelů, ale o konkrétní incidenty, které ukazují na vážné bezpečnostní hrozby a potenciální nebezpečí pro jednotlivce i společnosti.
Detailní analýza kybernetických útoků
Největší část zprávy se zaměřuje na kybernetické útoky, které stále častěji využívají schopnosti umělé inteligence. Anthropic upozorňuje na zásadní změnu v přístupu útočníků k technologiím: AI již není jen nástrojem pro psaní kódu nebo analýzu dat, ale stává se klíčovým prvkem v celém procesu provádění útoků. Tato transformace znamená, že útočníci mohou efektivněji plánovat a realizovat své operace, což zvyšuje úroveň hrozby pro jednotlivce, organizace i státy. Podle zprávy se zmenšuje rozdíl mezi dobře financovanými, státem podporovanými skupinami a jednotlivci nebo menšími útočníky, protože AI umožňuje i méně zkušeným útočníkům provádět sofistikované operace.
Anthropic dále uvádí, že útočníci zapojují AI do všech fází kybernetických útoků, od průzkumu cíle až po zpracování dat a využití napadených systémů. Tato skutečnost znamená, že útoky jsou nyní mnohem složitější a těžší na odhalení. Zpráva varuje, že sofistikované útoky již nevyžadují sofistikované útočníky, což vytváří nový rozměr v oblasti kybernetické bezpečnosti. Tímto způsobem se AI stává dostupnější pro širokou škálu útočníků, což představuje vážné riziko pro bezpečnost na internetu.
Propagandistické operace a sledování lidí
Kromě kybernetických útoků se zpráva také věnuje vlivovým operacím, které byly realizovány s pomocí AI. Tyto operace zahrnují vytváření dezinformace, manipulaci s veřejným míněním a sledování jednotlivců. V rámci těchto aktivit byly AI modely použity k plánování kampaní, tvorbě obsahu a správě falešných profilů na sociálních sítích. Takovéto praktiky mohou mít dalekosáhlé důsledky pro demokratické procesy a veřejnou debatu, zejména v období voleb a krizí, kdy je informace obzvlášť citlivá a důležitá.
Anthropic rovněž upozorňuje na nebezpečí spojená s biologickým zneužitím AI. Tento aspekt se týká využívání modelů pro výzkum a vývoj biologických zbraní či nelegálních biologických experimentů, což představuje další dimenzi hrozby, kterou je nutné brát vážně. Zpráva vyzývá k větší spolupráci mezi výzkumníky, regulátory a vládními institucemi, aby se zajistilo, že AI nebude zneužívána pro neetické a nelegální účely. V době, kdy se AI rychle vyvíjí a stává se nedílnou součástí mnoha oblastí lidské činnosti, je důležité si uvědomit potenciální rizika a přijmout opatření, která by minimalizovala možnost zneužití této technologie.