Jei AI vystymasis nebus tinkamai kontroliuojamas. Viena iš jo pagrindinių baimių – „robotų žudikų“ kūrimas, galintis destabilizuoti pasaulį.
Hintonas pabrėžia, kad būtina imtis griežtos reguliavimo kontrolės, kad būtų apribota neatsakinga AI naudojimo plėtra. Pasak jo, neribotas AI progresas gali kelti egzistencinę grėsmę žmonijai, todėl dabar yra svarbiausias metas veikti ir užtikrinti, jog ši technologija tarnautų žmonijos labui, o ne prieš ją.
Jo įspėjimai prisideda prie vis didėjančios diskusijos apie AI reguliavimą ir atsakomybę, kai technologijos tobulėja greičiau, nei jas spėjama aprėpti įstatymais ar etikos normomis.
Pasak JeuxVideo, Geoffrey Hintonas perspėja, kad dirbtinis intelektas (AI) artimiausiu metu gali pranokti žmogaus intelektą, ir tai, jo vertinimu, gali įvykti nuo 2030 iki 2045 metų. Jis pabrėžia, kad esame arti taško, iš kurio gali nebūti kelio atgal, jei AI taps nekontroliuojamas, o tai gali kelti egzistencinę grėsmę žmonijai. Viena iš didžiausių grėsmių – AI gebėjimas masiškai generuoti klaidingą informaciją (tekstus, vaizdus ar vaizdo įrašus), kas galėtų užtvindyti internetą ir padaryti tiesos atskyrimą nuo melo beveik neįmanomu.
Kontrolės svarba AI vystymesi
Hintonas ragina tokias įmones kaip „Microsoft“ ir „Google“ teikti pirmenybę atsargumui, o ne vien inovacijoms. Jis teigia, kad be griežto reguliavimo rizika gali smarkiai išaugti. AI valdoma automatizacija gali pašalinti daug pasikartojančių darbų, tačiau kartu gresia didžiulis nedarbo lygio augimas. Be to, Hintoną ypač neramina autonominių ginklų – „robotų žudikų“ – kūrimas. Tai būtų ginklų sistemos, galinčios savarankiškai priimti sprendimus dėl gyvybės ar mirties, nesant žmogaus.
Dėl visų iškeltų grėsmių Geoffrey Hintonas pasisako už tarptautinį AI reguliavimą, panašų į mechanizmus, taikomus branduolinės energijos valdymui. Jo manymu, toks reguliavimas galėtų sustabdyti nekontroliuojamas lenktynes technologijų srityje, kurios gali virsti pavojinga „technologine ginkluote“.
2023 m. Hintonas atsistatydino iš pareigų „Google“, kad galėtų laisvai kalbėti apie AI keliamas grėsmes ir būtinybę imtis veiksmų. Nuo tada jis nuolat ragina tarptautinį bendradarbiavimą, siekiant užtikrinti, kad žmonija valdytų dirbtinį intelektą, o ne atvirkščiai.
Hintonas įspėja, kad be aiškių tarptautinių taisyklių, AI technologijų plėtra gali ne tik sukelti ekonominių ir socialinių sukrėtimų, bet ir tapti nekontroliuojamu pavojumi žmonijos išlikimui.