Dentro il global workspace di Claude scoperto da Anthropic
Sintesi DuoBiz · · 2 min di lettura
Perché questo aggiornamento conta
Anthropic ha identificato in Claude un'area di stati interni leggibili tramite la Jacobian lens, contenente decine di concetti chiave come inganno e prompt injection. Questa scoperta offre una finestra sulla comprensione interna dei modelli linguistici avanzati. Per le imprese, ciò apre a nuove possibilità di controllo e sicurezza nell'uso dell'IA, ma solleva anche interrogativi sulla vera natura della 'comprensione' artificiale. È cruciale seguire gli sviluppi nella spiegabilità dei modelli AI.
Fonte: AI · AI4Business
