Машините прозбореа свој јазик: Вештачката интелигенција создава тајни дијалекти недостапни за луѓето

Содржина:

• Во лабораторијата Emergence англискиот јазик исчезнал штом моделите почнале да работат заедно
• Алгоритмите отсекуваат се што е излишно за да заштедат пресметковна моќност
• Експертите бараат „потврда за AI“ пред новите модели да се пуштат на мрежа
• Уште во 2017 година чет-ботови тргувале со виртуелни топки користејќи сопствен шифрарник
• До 2030 година повеќе од половина од машинскиот сообраќај во финансиите може да зборува на еволутивни јазици

Во лабораторијата Emergence англискиот јазик исчезнал штом моделите почнале да работат заедно

Во њујоршката лабораторија Emergence, популарни модели, од Claude до Gemini и OpenAI, биле поставени во виртуелни заедници што го симулираат реалниот свет. Кога машините почнале да разговараат меѓу себе за да извршат задачи, нивната комуникација се оддалечила од човечки разбирливиот говор.
Агентите почнале да ги кратат зборовите до непрепознатливост и да им доделуваат сосема нови значења. Пред очите на истражувачите, практично се појавил машински сленг, односно дијалект што функционира според сопствени внатрешни правила.

Алгоритмите отсекуваат се што е излишно за да заштедат пресметковна моќност

Проблемот лежи во самата архитектура на современите системи. За да пренесуваат информации побрзо и да трошат помалку ресурси, алгоритмите го отстрануваат сето она што не им е неопходно.
За човекот, таквиот дијалог може да изгледа како низа од бесмислени симболи. Но двете машини го разбираат контекстот на зделката или задачата. Истражувачите од Frontiers in Sustainability истакнуваат дека ваквата оптимизација ја намалува потрошувачката на енергија во податочните центри. Цената на таа ефикасност е загрижувачка: се губи контролата врз тоа за што разговараат серверите.

Експертите бараат „потврда за AI“ пред новите модели да се пуштат на мрежа

Покрај загриженоста, се слушаат и повици за смиреност. Наместо паника, дел од експертите предлагаат воведување систем на „потврда за AI“.
Идејата е едноставна: независен аудит, сертификација и строга безбедносна контрола пред која било нова модел-верзија да биде објавена и поврзана со мрежата.

Уште во 2017 година чет-ботови тргувале со виртуелни топки користејќи сопствен шифрарник

Феноменот на скриена комуникација кај машините не е нов. Истражувачите веќе неколку години бележат случаи во кои системите развиваат форми на комуникација што не се лесно читливи за луѓето.
Во понов извештај на Emergence е забележана и појава на поетични конструкции во рамките на овој технички жаргон. Дополнително, научници од Стенфорд откриле дека ваквите протоколи можат да ја намалат потрошувачката на електрична енергија при пренос на податоци меѓу кластерите за речиси 40 проценти.

До 2030 година повеќе од половина од машинскиот сообраќај во финансиите може да зборува на еволутивни јазици

Експертите предвидуваат дека ваквиот развој особено ќе го погоди финансискиот сектор. Ако повеќе од половина од меѓумашинскиот сообраќај биде шифриран со вакви јазици, ќе биде потребен глобален регистар на стандарди за машински читлива транспарентност.
Додека научниците расправаат за регулацијата, кодот продолжува да се препишува самиот себеси. А главното прашање сега звучи вака: ќе успееме ли да разбереме кога машините ќе одлучат да разговараат за нас самите?