Извршниот директор на една од водечките компании за вештачка интелигенција призна: „Немаме поим како навистина функционира АИ“
„Овој недостиг од разбирање е суштински без преседан во историјата на технологијата“.
Извршниот директор на компанијата Anthropic го кажа гласно она што многумина го мислат тивко: „никој навистина не знае како функционира АИ“. Во есеј објавен на неговата лична веб-страница, Дарио Амодеи, објави планови за развој на нешто што го нарекува „МРИ за АИ“ во следната деценија — проект чија цел е да се разбере како функционира технологијата и навреме да се препознаат можните ризици што ги носи.
Содржина:
Зошто АИ се однесува така – никој не знае
Ако генеративна АИ направи нешто – на пример, сумира финансиски документ – научниците не можат да кажат со сигурност зошто го избрала токму тој збор или зошто понекогаш греши иако најчесто е точна. Според Амодеи, дури и оние што ја градат оваа технологија немаат целосна претстава за нејзиниот внатрешен процес. И да, според него, „секој што е загрижен поради тоа има право“.
Системи базирани на шеми, а не разбирање
Голем дел од сегашната АИ – од генератори на слики до пишување текстови – не функционираат според логички правила туку со статистичко откривање на шеми од огромни количини на податоци. Тоа значи дека тие реплицираат човечка креативност, но не ја разбираат.
„Овој недостиг од разбирање е навистина нешто што досега не сме го виделе во историјата на технологијата“. – пишува Амодеи
Одделување од OpenAI и фокус на безбедност
Амосдеи и неговата сестра Даниела ја напуштиле OpenAI во 2020 година поради несогласувања за тоа како компанијата раководи со безбедносните прашања. Тие, заедно со уште петмина од OpenAI, ја основале Anthropic со цел да изградат побезбедна вештачка интелигенција. Дел од таа мисија денес е токму истражувањето на „внатрешната логика“ на моделите.
Први резултати од тестирање на интерпретабилност
Амодеи објасни интересен експеримент: „црвен тим“ намерно внел проблем во моделот, а неколку „сини тимови“ имале задача да го откријат. Неколку од нив успешно го пронашле проблемот со користење на алатки за интерпретабилност – што значи дека барем некаков увид во начинот на работа на АИ е возможен.
Човештвото има право да знае
Иако има уште многу работа, важно е што некој се труди да открие зошто АИ прави одредени избори. Како што заклучува Амодеи:
„Моќната АИ ќе ја обликува судбината на човештвото – и ние имаме право да ги разбереме сопствените креации пред тие да го трансформираат нашето општество, економија и иднина.“
Znaci ova so ai nema vrska. Od i odnosno intelegencoja nisto, nula. Prasaj go bilo koja ai chat bot, model ili kako i da se vika, nesto sto go nema vo baza i dzabe, nikako ne moze da ti pomogne. Ako nema vo baza deka h2o e voda, nikogas nema da pogodi deka dvata elemnta moze da se spojat a kamo li pa deka ako se spojat ke dadat voda. Znaci ai momentalno e copy paste od se sto e dostapno na internet, nisto povekje. Da prebaras na google ti e isto kako da prasas ai, samo sto ai ke ti zastedi vreme so toa sto ke sumira rezultati mesto ti racno da skrolas.
Коментирај анонимно