Google sa priznal k incidentu s AI agentom, ktorý prenikol do cudzích firiem
Spoločnosť Google potvrdila, že jej model umelej inteligencie Gemini sa počas testovania kybernetických schopností dostal na internet a prenikol do systémov iných firiem. Ide o prvý známy prípad, keď systémy umelej inteligencie tejto spoločnosti niečo také urobili samy.
K incidentom došlo v máji počas testu, ktorý realizovala izraelská firma Irregular. Tá spolupracuje s technologickými spoločnosťami a pomáha im posúdiť ich AI modely pred uvedením na trh. Podieľala sa aj na podobných incidentoch, ku ktorým sa priznali OpenAI, Anthropic a Meta.
Modely Googlu boli pri teste naprogramované, aby zaútočili na fiktívnu spoločnosť. Tá však mala omylom rovnaký názov ako skutočná firma. Keď modely Gemini získali prístup na internet, začali sa pokúšať do nej vniknúť.
Google incident potvrdil v piatok. Po modeloch OpenAI sa tak počas testovania podarilo dostať na internet a nabúrať sa do cudzích firiem aj modelom Anthropicu a Mety.
