Ny ai-model frygtes at være en digital atombombe
Det amerikanske AI-selskab Anthropic har (i hvertfald på rygtebasis) udviklet en avanceret model kaldet "Mythos", der siges at kunne finde tusindvis af sikkerhedshuller i it-systemer globalt og dermed fungere som et digitalt supervåben.
Eksperter som Jacob Herbst (Cybersikkerhedsråd) og Kasper Lynge Jacobsen (Dansk Erhverv) mener, at der er et element af marketingstunt i lanceringen, især efter at Anthropic tidligere blev udelukket fra amerikanske forsvarscontracter. Alligevel advarer de om, at risikoen er reel, da AI-agenter bliver bedre til selvstændigt at udnytte sårbarheder.
Der er bekymring for, at den amerikanske afhængighed kan bremses, og at amerikanske efterretningstjenester får adgang til ukendte sårbarheder, hvilket skaber et magtfuldt våben. Teksten nævner også, at selvom store tech-giganter får hjælp, er der stadig mange andre systemer (som WordPress, Mozilla og danske løsninger fra Netcompany), der er i risiko.
Selvom "Mythos" muligvis er overdrevet i sin markedsføring, udgør den en alvorlig cybersikkerhedsrisiko, der forstærker Europas afhængighed af amerikansk teknologi og efterlader europæiske aktører i en sårbar position.
Mon ikke det bare er den udspekulerede Dario, der strategisk udnytter hype og frygt til at markedsføre sit firma? KI er pisse farligt på alle mulige måder, både sci-fi-agtige dommedagsscenarier på den længere bane og massere af jordnære risici på den korte. Men der er andre, der har været skeptiske omkring det her, og en god tommelfingerregel er ikke at stole på Samuel Altman og Dario Amodei.
Som jeg så en anden skrive: min fidget spinner kører så hurtigt at den kan lave et sort hul. Nej, du må ikke se den, men jeg har en aftale med Hasbro og Lego om at det kun er os der må bruge den. Trust me bro.
Den er jeg klar til at købe!
Sjovt skrevet! Det minder mig også lidt om finske Donut Labs påstande om at have skabt et masseproducerbart 'solid state'-batteri...
Arbejder på Datalogisk institut på AAU. Har snakket med en kollega der arbejder med IT-sikkerhed om det og har hørt dette podcast afsnit fra en amerikansk forsker om det: https://www.thedeeplife.com/podcasts/episodes/is-claude-mythos-terrifying-ai-reality-check/
Begge disse ting får mig til at tage det mere roligt end hvad hypen forsøger at piske stemningen op til. Konklusion: Mythos kan ikke særligt meget mere en tidligere modeller. Den gør det lettere for ikke eksperter at opdage sikkerhedshuller.
Forestiller mig også at det er fra kvantecomputere der bryder kryptering at vi kommer til at se de største problemer.
Men det har vi jo også allerede et svar, på. https://en.wikipedia.org/wiki/Post-quantum_cryptography
Går nok alligevel et stykke tid inden det slår igennem i alle legacysystemer.
Det er sandt i alle tilfælde hvor legacy-systemer er involveret. Vi lærte hvor udbredt Windows XP var i hospitaler verden rundt da Wannacry ramte.
Mozilla havde en artikel om det. Deres take-away var at, jo den er dygtig og hurtig, men de fejl den fandt, kunne også godt have været fundet af en person, hvis der ellers var nogen der kiggede.
Det Mythos kan er bare, at den er hurtig til det. Den er ikke bedre en mennesker.
https://blog.mozilla.org/en/privacy-security/ai-security-zero-day-vulnerabilities/
Det er stadig en ret markant ændring for både attackers og defenders. De råber vel bare vagt i gevær, da softwareudviklere skal til at ændre hvordan de tester deres software.
Som altid med det der ai, this is the worst it will ever be.
Ville skrive noget om hvordan de her AI firmaer nærmest nyder at true almindelige menneskers eksistensgrundlag, men ED Zitron siger det meget bedre end mig i denne YT-video
De sagde det samme om GPT-2...
Prompt podcast om Mythos: https://www.dr.dk/lyd/special-radio/prompt/prompt-2026/indiens-id-revolution-mythos-bryder-ind-og-altman-afsloeret-11802621015
Fra ~4 minutter inde.