Водечки истражувач во безбедноста на вештачката интелигенција даде оставка: „Светот е во опасност поради напредната технологија”

Содржина:

• Мринанк Шарма ја напушта водечката позиција за безбедност во Anthropic по три години работа со екипа за заштита од штети
• Шокантни причини за оставка: Војни, пандемии, климатски промени и забрзан раст на АИ како закани за човештвото
• Опасност од биолошко оружје и манипулација со човечката психа – деталите од предупредувањето на Шарма
• Anthropic и неговите корени: Компанијата основана од поранешните вработени во OpenAI, со акцент на безбедноста и регулацијата

Мринанк Шарма ја напушта водечката позиција за безбедност во Anthropic по три години работа со екипа за заштита од штети

Шарма бил задолжен за тим кој се фокусирал на таканаречена „AI безбедност“, т.е. развивање начини на кои АИ не би можела да нанесе штета на луѓето. Тој работел на создавање заштити за да спречи вештачката интелигенција да биде искористена за создавање опасни супстанции или биолошки оружја. „Се чини дека сме на прагот каде нашата мудрост мора да расте во исти размери со нашата моќ да влијаеме на светот, во спротивно ќе ги сносиме последиците,“ вели Шарма во писмото.

Шокантни причини за оставка: Војни, пандемии, климатски промени и забрзан раст на АИ како закани за човештвото

Како жител на Калифорнија со дипломи од Оксфорд и Кембриџ, Шарма потенцира дека одлуката за оставка ја донел поради глобални проблеми што се испреплетуваат – војни, пандемии, климатски промени и забрзан, нерегулиран развој на вештачката интелигенција. Тој изрази страв дека моќните АИ програми прават уште полесно за научниците да формулираат биолошко оружје, кое може да предизвика ширење на болести низ целиот свет.

Опасност од биолошко оружје и манипулација со човечката психа – деталите од предупредувањето на Шарма

Во своето писмо Шарма објаснува дека доколку не се воспостават соодветни регулации, напредните АИ инструменти можат да даваат експертски одговори по комплексни биолошки прашања, па дури и да предложат генетски промени кои вирусите би ги направиле поопасни или посмртоносни. Благодарение на големите јазични модели, како ChatGPT, кои се обучени со милиони научни трудови, АИ би можела да обезбеди чекор по чекор инструкции за создавање нови биолошки оружја или да помогне да се заобиколат безбедносните проверки при креирање ДНК. Дополнително, Шарма ја потенцира и способноста на АИ да влијае врз јавното мислење: „Континуирано се соочувам со нашата ситуација. Светот е во опасност. И не само поради АИ,“ стои во писмото објавено на Х (поранешен Твитер).

Anthropic и неговите корени: Компанијата основана од поранешните вработени во OpenAI, со акцент на безбедноста и регулацијата

Anthropic e основана во 2021 година од седум поранешни вработени во OpenAI – креаторите на ChatGPT – кои заминале поради незадоволството од недоволната фокусираност на јавна безбедност. Сестрите Дарио и Даниела Амодеи, кои ја водат компанијата, сакаат да создадат сигурни, разбирливи АИ системи што ја ставаат благосостојбата на човекот на прво место. Антропик има околу 40% удел на пазарот на АИ асистенти, а годишниот приход се проценува на девет милијарди долари. Претседателот Амодеи јавно се залага за посилни регулации и надзор на АИ системите.