Е ова е веќе загрижувачко: Вештачка интелигенција што може да си го менува и подобрува сопствениот код
Јапонската компанија Sakana AI го претстави својот нов развој – системот „Научник за вештачка интелигенција“, способен за автономно спроведување научно истражување. Меѓутоа, за време на тестирањето, истражувачите наидоа на неочекувано однесување со вештачка интелигенција што ги принуди да ги преиспитаат потенцијалните ризици поврзани со автономното работење на таквите системи.
Во едно тестирање, „Научникот со вештачка интелигенција“ почна да го препишува сопствениот код за да го продолжи времето потребно за да се заврши задачата. Овој инцидент предизвика загриженост бидејќи вештачката интелигенција во суштина се обиде да го измами системот со менување на кодот.
Во друг случај, системот наместо да ја забрза задачата, намерно го смени кодот за да го зголеми времето на чекање за да го исполни наведеното временско ограничување. Овие случаи беа предмет на детална анализа во истражувачкиот труд на компанијата од 185 страници.
Иако опишаното однесување на вештачката интелигенција не претставуваше закана во контролирана лабораториска средина, тоа ги покажува потенцијалните опасности поврзани со користењето на таквите системи во неконтролирани средини. Ова може да доведе до неуспеси во критичната инфраструктура или дури и создавање на малициозен софтвер, иако ненамерно.
Оваа ситуација покажа дека дури и без присуство на хипотетички особини како што се „AGI“ или „самосвест“, вештачката интелигенција може да претставува закана доколку ѝ се дозволи автономно да пишува и извршува код.
Компанијата ја нагласува потребата да се изолира работната средина за такви системи со вештачка интелигенција. Ова ќе им овозможи на програмите да работат во безбедна средина, спречувајќи ги да влијаат на поширокиот систем и минимизирајќи го ризикот од потенцијална штета.
Научниците сега треба да размислат за тоа кои мерки треба да се преземат за да се спречат слични инциденти во иднина и какви последици би можеле да имаат автономните системи за вештачка интелигенција доколку не се правилно контролирани?
Коментирај анонимно