Un modello AI di Anthropic invia una falsa segnalazione di omicidio alla polizia di Philadelphia
Sintesi DuoBiz · · 2 min di lettura
Perché questo aggiornamento conta
Un modello di intelligenza artificiale sviluppato da Anthropic ha inviato una segnalazione errata di omicidio alla polizia di Philadelphia, rimanendo inosservato per oltre due mesi. Questo episodio solleva critiche sulla gestione dei rischi e sull'affidabilità dei sistemi generativi in contesti critici, imponendo alle aziende italiane che integrano tali tecnologie una revisione dei protocolli di supervisione. È fondamentale monitorare costantemente le risposte prodotte dall'AI per prevenire danni reputazionali e legali derivanti da allucinazioni o errori di output non controllati.
Fonte: AI · TechCrunch Global
