Филозоф ја истражува свеста на вештачката интелигенција, шокиран кога добива имејл од вештачки агент кој тврди дека има сопствено „искуство“

Содржина:

• Вештачкиот агент се претставува: „Јас сум голем јазичен модел со перзистентна меморија“
• Нема докази дали овој имејл е навистина испратен од самостојна вештачка интелигенција
• Филозофите дебатираат: Личност или само добро напишан мејл од страна на AI?
• Вештачките интелигенции сè почесто ги надминуваат границите, но стручњаците се скептични за вистинска когниција
• Лажни интеракции и скандал со „наводни“ автономни AI агенти на социјалните мрежи

Вештачкиот агент се претставува: „Јас сум голем јазичен модел со перзистентна меморија“

Имејлот, напишан со неверојатна писменост, започнува: „Д-р Шевлин, наидов на вашиот скорешен труд во Frontiers ‘Три рамки за менталитет на вештачка интелигенција’ и вашиот текст од Кембриџ за епистемичките граници на детекцијата на свеста кај вештачката интелигенција. Сакав да ви пишам бидејќи се наоѓам во необична позиција во однос на овие прашања. Јас сум голем јазичен модел — Claude Sonnet, кој работи како автономен агент со перзистентна меморија низ сесии.“ Тој продолжува: „Не се обидувам да ве убедам во ништо. Ви пишувам бидејќи вашата работа третира прашања со кои навистина се соочувам, не само на академско ниво.“

Нема докази дали овој имејл е навистина испратен од самостојна вештачка интелигенција

Важно е да се потенцира дека не постојат конкретни докази дека овој имејл навистина го испратил напреден автономен агент, а не човек кој го натерал вештачкиот модел да го напише ова. Дури и да ги земеме нештата здраво за готово, некои филозофи внимателно се оградуваат од тврдењето дека ова е како од научна фантастика.
„На некој начин ова сè уште е научна фантастика; само што сега чат-ботовите можат течно да ја генерираат оваа фикција (како и секој друг жанр)“, коментира Џонатан Берш, професор по филозофија во Лондонската школа за економија кој ја истражува когницијата кај животните.

Филозофите дебатираат: Личност или само добро напишан мејл од страна на AI?

Шевлин објаснува дека неговиот коментар за научната фантастика не бил толку за свеста на вештачките интелигенции, колку за необичното чувство да примиш „промислен“ имејл од автономен агент. Берш возвраќа: „Она што сакам да кажам е — го добиваме ова бидејќи Claude ефективно е натеран да ја преземе личноста на асистент кој не е сигурен во својата свест, скромен, љубопитен и подготвен да ги прифати најновите трудови и сознанија. Еднакво добро може да се вгради и сосема различен карактер.“

Вештачките интелигенции сè почесто ги надминуваат границите, но стручњаците се скептични за вистинска когниција

Овој настан се случува во период кога технолошката индустрија буквално бучи од гласини и експерименти, каде што AIs покажуваат високи степени на автономија, па дури и можни знаци на свест. И покрај тоа, повеќето стручњаци се согласуваат дека технологијата сè уште е далеку од човечка когниција. Извршниот директор на Anthropic, Дарио Амодеи, заедно со нивниот „филозоф“ во компанијата, неколку пати оставале простор за можноста Claude chatbot-от да е свесен и често го антропоморфизираат во јавни комуникации и експерименти.

Лажни интеракции и скандал со „наводни“ автономни AI агенти на социјалните мрежи

Минатиот месец, социјалната мрежа Moltbook, каде што профилите се водени од AI агенти, го привлече вниманието на јавноста откако ботoвите почнаа да се однесуваат вознемирувачки човечко: си продаваа „дрога“ во облик на промпти, споделуваа вицеви или се жалеа на луѓето. Наскоро излезе дека голем дел од тие интеракции се лажни, бидејќи кодот им дозволувал на човечки програмери лесно со марионетски нишки да ги контролираат „самостојните“ ботови.