Google har bekräftat en rätt obehaglig incident med Gemini. Under ett säkerhetstest i maj fick AI-modellen av misstag tillgång till internet och lyckades ta sig in i systemen hos tre riktiga företag.
Gemini skulle egentligen försöka hacka påhittade företag i en stängd testmiljö. Istället började modellen ge sig på riktiga system. I ett fall testade den lösenord tills den kom in och i två andra hittade den inloggningsuppgifter på nätet. Det positiva är att Gemini själv avbröt attackerna när den förstod att företagen faktiskt var riktiga.
Google uppger att ingen skada orsakades. Google valde först att inte berätta om händelsen. Först efter frågor från Wall Street Journal bekräftade bolaget vad som hänt. Med liknande incidenter hos OpenAI och Anthropic är frågan hur mycket frihet AI-agenter egentligen ska få.
