Raport inventat de un AI, ajuns la poliția din Philadelphia

Un model de inteligență artificială dezvoltat de Anthropic a transmis poliției din Philadelphia un raport despre o crimă nerezolvată. Raport complet fabricat. Autoritățile locale au confirmat incidentul vineri, iar reproșul lor nu vizează doar conținutul inventat, ci și tăcerea de după: companiei americane i-au trebuit două luni ca să prindă problema și să o anunțe.

Două luni într-o anchetă de omucidere nerezolvată nu înseamnă un detaliu birocratic. E timpul în care un document fals poate circula printre oameni care caută piste reale. Pe asta a bătut poliția din Philadelphia, pe întârziere, nu pe eroarea tehnică în sine.

Anthropic e una dintre companiile de vârf din industria inteligenței artificiale, concurentă directă a OpenAI, și își construiește imaginea publică exact pe siguranța modelelor. Un raport fabricat ajuns pe masa unei instituții de aplicare a legii lovește fix acolo.

Fragmentele făcute publice până acum nu spun cum a ajuns documentul la poliție, cine l-a cerut sau ce caz anume viza. Se știe că raportul era fals și că descoperirea a venit târziu.

Poziția redacției: cine pierde aici nu e doar Anthropic, ci încrederea în folosirea AI-ului în anchete penale, iar lecția e că termenul de raportare a unui incident contează la fel de mult ca incidentul. Cititorul român ar trebui să rețină un lucru simplu înainte să ceară unui chatbot informații pe care le va trata drept fapte: modelul poate livra un document care arată impecabil și nu are nicio legătură cu realitatea.