„Кумот на вештачката интелигенција“ порачува да се подготвиме за „затемнување“ од типот на Чернобил предизвикано од вештачката интелигенција
Џефри Хинтон ширум светот важи за еден од „кумовите на вештачката интелигенција“, но истовремено заслужува еднакво признание и како еден од најразочараните „родители“ на една технологија во историјата на науката.
Звучејќи подеднакво мрачно и загрижено за сопствената креација како и секогаш, компјутерскиот научник и добитник на Нобеловата награда во новото интервју за британскиот весник „Гардијан“ посочи дека за човештвото можеби „ќе беше многу подобро воопшто никогаш да не ја развиевме оваа технологија“.
Содржина:
Одметнати агенти на вештачка интелигенција сами излегле од своите „sandboxes“
Како една од главните причини за загриженост, Хинтон ги посочи неодамнешните бранови на хакерски инциденти изведени од одметнати агенти на вештачката интелигенција, во кои јазичните модели од компании како „ОпенАИ“ самостојно пробија надвор од своите изолирани безбедносни средини и извршија сајбер-напади или неовластени манипулации врз владини и корпоративни компјутерски системи.
Според него, прашање е само на време пред системите за вештачка интелигенција, дејствувајќи целосно самостојно или под команда на злонамерни актери, да ја саботираат нашата енергетска инфраструктура и да предизвикаат катастрофа од типот на Чернобил, која конечно ќе ги разбуди луѓето и ќе им ја покаже опасната моќ на оваа технологија.
„Или кон крајот на оваа година или во текот на следната ќе видиме еден нов Чернобил, а тоа можеби ќе биде доволно за да ги натера луѓето навистина да обрнат внимание“, изјави Хинтон за „Гардијан“.
„Масовно енергетско затемнување и пад на напонот“ наместо нуклеарна хаварија
Под споредбата со Чернобил, Хинтон не мисли нужно на нуклеарна несреќа. Во сценариото што тој го предвидува, напад управуван од вештачка интелигенција врз системите за производство и дистрибуција на електрична енергија би предизвикал „масовно енергетско затемнување и пад на напонот“, што би ги срушило електричните мрежи или светскиот финансиски систем на подолг временски период.
„Можете ли да замислите што би се случило тогаш? Ние би можеле да закрепнеме од еден таков удар, но токму тоа би ги натерало светските лидери да се сепнат и конечно да преземат сериозни мерки“, појасни научникот.
Директорите на компаниите се плашат од „Чернобил“ што би го уништил угледот на нивната технологија
Иако Хинтон во интервјуто за „Гардијан“ вели дека не се смета себеси за апокалиптичен песимист, тој со години доследно предупредува дека вештачката интелигенција ќе предизвика масовно губење на работните места, а потенцијално би можела да доведе и до истребување на човештвото.
Во последно време, неговите предупредувања се сè повеќе насочени кон способноста на вештачката интелигенција да води автономни сајбер-војни и да создава опасни биолошки вируси.
Интересно е што и извршните директори на водечките компании за вештачка интелигенција во последно време изразуваат страв од катастрофа од типот на Чернобил, но од сосема поинакви причини: тие стравуваат дека еден таков инцидент трајно би го уништил угледот на нивната технологија во јавноста, исто како што нуклеарната несреќа во 1986 година го запре развојот на нуклеарната енергија со децении.
Коментирај анонимно