“Una cosa è certa: non la controlleremo.”
Elon Musk“Dave: Apri i portelli della baia, HAL.
HAL: Mi dispiace, Dave. Temo di non poterlo fare.”
2001: Odissea nello spazio“Trovare una soluzione al problema del controllo dell’IA è un compito importante; nelle solenni parole di Bostrom, ‘il compito essenziale della nostra epoca.'”
Stuart Russell“Sembra probabile che una volta avviato il metodo del pensiero della macchina, non ci vorrebbe molto per superare i nostri deboli poteri. … A un certo punto, quindi, dovremmo aspettarci che le macchine prendano il controllo.”
Alan Turing“Proibire lo sviluppo di Intelligenza Artificiale capace di dire ‘no’ agli esseri umani.”
赵汀阳“La creazione … di entità con intelligenza superiore a quella umana … significherà gettare via tutte le regole precedenti, … una fuga esponenziale oltre ogni speranza di controllo.”
Vernor Vinge“Non esiste una strategia puramente tecnica che sia attuabile in questo campo, perché un’intelligenza superiore troverà sempre un modo per eludere le misure che sono il prodotto di un’intelligenza inferiore.”
Ray Kurzweil“Non puoi sviluppare una teoria precisa dell’intelligenza come ci sono teorie precise della fisica. È impossibile! Non puoi dimostrare che un’IA sia corretta. È impossibile!”
giovane Eliezer YudkowskyLa controllabilità dell’IA “non è un problema.”
GPT2
Tag: Book
