Discord admits AI moderation bug wrongfully banned users over harmless images
Sintesi DuoBiz · · 2 min di lettura
Perché questo aggiornamento conta
Discord ha ammesso un bug nel suo sistema di moderazione AI che ha causato il ban ingiustificato di oltre 8.000 utenti. Il sistema ha erroneamente segnalato come dannosi contenuti innocui, tra cui fogli di calcolo e sfondi trasparenti. Le aziende che implementano sistemi di AI per la moderazione devono garantire test rigorosi e meccanismi di ricorso efficaci per evitare impatti negativi sugli utenti e sulla reputazione del brand.
Fonte: AI · TechCrunch Global
