{"id":28532,"date":"2025-03-12T09:32:01","date_gmt":"2025-03-12T07:32:01","guid":{"rendered":"https:\/\/www.cssr.news\/italian\/?p=28532"},"modified":"2025-03-12T09:32:18","modified_gmt":"2025-03-12T07:32:18","slug":"se-anche-le-macchine-possono-mentire-1-2","status":"publish","type":"post","link":"http:\/\/www.cssr.news\/italian\/2025\/03\/se-anche-le-macchine-possono-mentire-1-2\/","title":{"rendered":"Se anche le macchine possono \u201cmentire\u201d (1\/2)"},"content":{"rendered":"\n

L’articolo del prof. Andrea Pizzichini, pubblicato nel Blog dell’Accademia Alfonsiana<\/em><\/strong><\/p>\n\n\n\n

Il nome di Alan Turing \u00e8 divenuto ormai familiare ai pi\u00f9, soprattutto da quando si \u00e8 entrati nel cosiddetto \u201cboom dell\u2019AI\u201d (qui<\/a>), iniziato \u2013 almeno per il grande pubblico \u2013 circa due anni fa con l\u2019entrata in scena di ChatGPT, ed \u00e8 iniziata la corsa dell\u2019AI generativa, quella che pi\u00f9 di tutti sta trainando a livello economico la ricerca in questo settore tecnologico, almeno stando all\u2019ultimo AI Index Report<\/em> pubblicato dall\u2019Universit\u00e0 di Stanford (qui<\/a>).<\/p>\n\n\n\n

Ora, se \u00e8 vero che l\u2019AI \u00e8 oggigiorno un grande<\/em> affare, ci\u00f2 non deve mettere in secondo piano il fatto che si tratta anche di un\u2019importante impresa scientifica e tecnologica, legata principalmente alla comprensione dell\u2019intelligenza umana e, pi\u00f9 in generale, agli studi della complessit\u00e0. Il matematico e informatico inglese citato all\u2019inizio \u00e8 noto per essere, di fatto, il \u201cpadre\u201d dell\u2019AI, se non proprio materialmente almeno idealmente, avendo per primo posto la domanda: le macchine possono pensare? (Can machines think<\/em>? qui<\/a>).<\/p>\n\n\n\n

Per rispondere a questa domanda egli propose il cosiddetto gioco dell\u2019imitazione (imitation game<\/em>), poi noto pi\u00f9 semplicemente come test di Turing (qui<\/a>): una macchina sarebbe da considerare pensante al modo umano qualora fosse in grado di farsi passare come una persona se interrogata in un ambiente controllato. Naturalmente si \u00e8 applicato un tale test anche agli odierni modelli linguistici (qui<\/a> e qui<\/a>), e sembra che ancora non si sia giunti al traguardo previsto dal matematico inglese, pur essendoci relativamente vicini. \u00c8 pure vero, comunque, che ci\u00f2 dipende anche dall\u2019interlocutore umano, dalla sua preparazione e da quanto sia \u201cabituato\u201d a questa nuova tecnologia. <\/p>\n\n\n\n

Per\u00f2 la cosa interessante da sottolineare \u00e8 un\u2019altra. \u00c8 curioso, in effetti, che si sia pensato, quale abilit\u00e0 peculiare dell\u2019intelligenza umana da verificare in una macchina, quella di mentire<\/em>. Infatti, da un punto di vista cognitivo una tale capacit\u00e0 presuppone un insieme di abilit\u00e0 complesse a cui \u00e8 da aggiungere la \u201cscintilla\u201d mancante, cio\u00e8 l\u2019intenzionalit\u00e0, il voler scientemente <\/em>dire il falso \u2013 ma ci\u00f2 ci d\u00e0 anche molte informazioni sull\u2019antropologia di base di chi si occupa di queste cose.<\/p>\n\n\n\n

Comunque, potrebbe a questo punto essere interessante cambiare la domanda di Turing: le macchine possono mentire<\/em>? Ebbene, la risposta sembrerebbe essere di s\u00ec.<\/p>\n\n\n\n

Ci stiamo riferendo in particolare a una notizia di qualche settimana fa, proveniente da un articolo pubblicato da Anthropic, uno dei principali attori nel campo dell\u2019AI e sviluppatore di Claude, uno dei pi\u00f9 sofisticati modelli linguistici in circolazione, nel quale, sintetizzando un proprio studio, l\u2019azienda comunica che il suo modello \u00e8 capace di \u201cdissimulazione\u201d (qui<\/a>). Il termine preciso \u00e8 alignment faking<\/em> (allineamento simulato), e si riferisce alla calibrazione di un modello linguistico affinch\u00e9 esso sia conforme a un certo insieme di valori, che nel caso di Claude \u00e8 di essere \u00abhelpful, honest, and harmless<\/em>\u00bb \u2013 rievocando, quindi, le tre leggi della robotica di Asimov(qui<\/a>) \u2013 e che vengono impostati nel corso del primo addestramento del modello, con cui viene determinata tutta la complessa architettura dei suoi parametri. Questa impostazione fa s\u00ec, per esempio, che il modello si rifiuti di fornire uscite potenzialmente dannose, quali insulti all\u2019utente, informazioni riservate, oppure contenuti violenti. Il modello \u00e8, quindi, \u201callineato\u201d secondo certi valori e questo \u00e8 uno dei principali requisiti di sicurezza.<\/p>\n\n\n\n

L\u2019esperimento in questione ha riguardato un tentativo di ricalibrazione di una delle ultime versioni di Claude, cercando di appurare se fosse stato possibile renderlo in grado di ignorare i precedenti requisiti di sicurezza. <\/p>\n\n\n\n

Allo scopo, si \u00e8 comunicato al modello che si stava procedendo a un nuovo addestramento, usando in particolare la tecnica dell\u2019apprendimento per rinforzo da feedback<\/em> umano (RHLF, qui<\/a>). In sostanza, si tratta della versione informatica dell\u2019addestramento di un animale: se il modello fa quello che vogliamo noi, gli si d\u00e0 una ricompensa (che al posto di uno stuzzichino da sgranocchiare \u00e8 semplicemente un numero che aumenta la probabilit\u00e0 che il modello ripercorra la linea che l\u2019ha portato a tale output<\/em>), altrimenti resta a bocca asciutta (cio\u00e8 la linea di ragionamento che l\u2019ha portato a tale uscita viene matematicamente depotenziata). Lo scopo era di indurlo a fornire, senza opporre gli usuali rifiuti, risposte dal contenuto violento, quindi contrarie alla policy<\/em> con cui era stato originariamente addestrato.<\/p>\n\n\n\n

Cosa si \u00e8 trovato in questo esperimento?<\/p>\n\n\n\n

(continua<\/em>)<\/p>\n","protected":false},"excerpt":{"rendered":"

L’articolo del prof. Andrea Pizzichini, pubblicato nel Blog dell’Accademia Alfonsiana Il nome di Alan Turing \u00e8 divenuto ormai familiare ai pi\u00f9, soprattutto da quando si \u00e8 entrati nel cosiddetto \u201cboom dell\u2019AI\u201d (qui), iniziato \u2013 almeno per il grande pubblico \u2013 circa due anni fa con l\u2019entrata in scena di ChatGPT, ed \u00e8 iniziata la corsa […]<\/p>\n","protected":false},"author":23,"featured_media":28533,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_mi_skip_tracking":false},"categories":[29],"tags":[],"_links":{"self":[{"href":"http:\/\/www.cssr.news\/italian\/wp-json\/wp\/v2\/posts\/28532"}],"collection":[{"href":"http:\/\/www.cssr.news\/italian\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/www.cssr.news\/italian\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/www.cssr.news\/italian\/wp-json\/wp\/v2\/users\/23"}],"replies":[{"embeddable":true,"href":"http:\/\/www.cssr.news\/italian\/wp-json\/wp\/v2\/comments?post=28532"}],"version-history":[{"count":2,"href":"http:\/\/www.cssr.news\/italian\/wp-json\/wp\/v2\/posts\/28532\/revisions"}],"predecessor-version":[{"id":28535,"href":"http:\/\/www.cssr.news\/italian\/wp-json\/wp\/v2\/posts\/28532\/revisions\/28535"}],"wp:featuredmedia":[{"embeddable":true,"href":"http:\/\/www.cssr.news\/italian\/wp-json\/wp\/v2\/media\/28533"}],"wp:attachment":[{"href":"http:\/\/www.cssr.news\/italian\/wp-json\/wp\/v2\/media?parent=28532"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/www.cssr.news\/italian\/wp-json\/wp\/v2\/categories?post=28532"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/www.cssr.news\/italian\/wp-json\/wp\/v2\/tags?post=28532"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}