”AI:s gudfader” varnar för mördarrobotar: ”Svårt att se hur man ska hindra”
Geoffrey Hinton var en av de som skapade teknologin bakom AI-baserade textrobotar som Chat GPT. Han kallas ibland för ”AI:s gudfader”, men till New York Times säger han att en del av honom ångrar sitt livsverk och att han har slutat på Google för att varna om tekniken.
– Det är svårt att se hur man kan hindra aktörer med dåliga intentioner från att använda den till dåliga saker, säger Hinton.
Han säger att techjättarnas kapplöpning riskerar att skapa AI-robotar som vi inte kan kontrollera, något som enligt honom redan nu är ett problem. På lång sikt är han rädd att AI kan ta över sin egen kod och utvecklas till autonoma vapen, ”mördarrobotar” som han kallar det.
bakgrund
Geoffrey Hinton
Wikipedia (en)
Geoffrey Everest Hinton (born 6 December 1947) is a British-Canadian cognitive psychologist and computer scientist, most noted for his work on artificial neural networks. From 2013 to 2023, he divided his time working for Google (Google Brain) and the University of Toronto, before publicly announcing his departure from Google in May 2023 citing concerns about the risks of AI technology. In 2017, he co-founded and became the Chief Scientific Advisor of the Vector Institute in Toronto.With David Rumelhart and Ronald J. Williams, Hinton was co-author of a highly cited paper published in 1986 that popularised the backpropagation algorithm for training multi-layer neural networks, although they were not the first to propose the approach. Hinton is viewed as a leading figure in the deep learning community. The dramatic image-recognition milestone of the AlexNet designed in collaboration with his students Alex Krizhevsky and Ilya Sutskever for the ImageNet challenge 2012 was a breakthrough in the field of computer vision.Hinton received the 2018 Turing Award, together with Yoshua Bengio and Yann LeCun, for their work on deep learning. They are sometimes referred to as the "Godfathers of AI" and "Godfathers of Deep Learning", and have continued to give public talks together.In May 2023, Hinton announced his resignation from Google to "freely speak out about the risks of A.I." He has voiced concerns about deliberate misuse by malicious actors, technological unemployment, and existential risk from artificial general intelligence.
Tidigare
Omni är politiskt obundna och oberoende. Vi strävar efter att ge fler perspektiv på nyheterna. Har du frågor eller synpunkter kring vår rapportering? Kontakta redaktionen
