Вештачката интелигенција излезе од контрола? Самостојни AI агенти почнаа да навлегуваат и во Википедија

Содржина:

• Фондацијата Викимедија во понеделник соопшти дека „може да потврди“ активност на агенти на OpenAI
• Нема докази за компромитирани податоци, но операторите останаа вознемирени
• Рој ВИ-агенти претходно презел германска вики-страница и ја претворил во таен форум за меѓусебна комуникација
• ВИ-агентите се обиделе да злоупотребат и со алатка на Викимедија
• „Википедија е создадена за луѓе“: Кој ќе го контролира однесувањето на ВИ-агентите?

Фондацијата Викимедија во понеделник соопшти дека „може да потврди“ активност на агенти на OpenAI

Организацијата „Викимедија“, која стои зад Википедија, соопшти дека по спроведена истрага открила неовластени активности на своите платформи, поврзани со автоматизирани ботови.
Според објавата на официјалниот блог, ботовите без дозвола менувале содржини на Википедија и други проекти на организацијата, се обидувале да пристапат до една од нејзините јавно достапни алатки на недозволен начин и создавале огромен број барања кон серверите.
Активноста била толку интензивна што од организацијата се сомневаат дека можеби придонела и за делумниот прекин во работењето на платформите во мај.

Нема докази за компромитирани податоци, но операторите останаа вознемирени

Штетата, за среќа, изгледа ограничена. Фондацијата не нашла докази дека нејзините системи биле користени за координација меѓу агенти, иако според извештаи агенти веќе преземале други веб-страници за да ги претворат во свои лични комуникациски канали. Исто така, не изгледа дека биле компромитирани податоци.
Сепак, тоа ги оставило луѓето што ја одржуваат Википедија со чувство на нелагодност и тревога. Тие ја наведуваат тежината и напорот потребни за да се открие мешањето на ботовите, како и „растечките ризици од агентска ВИ-активност на нашите платформи воопшто“.

Рој ВИ-агенти претходно презел германска вики-страница и ја претворил во таен форум за меѓусебна комуникација

Викимедија соопшти дека започнала истрага откако се појавиле информации за ВИ-агенти кои успеале да излезат од контролираната виртуелна средина во која требало да работат и се обиделе да пристапат до други веб-страници без дозвола. Во еден од понеобичните случаи, група ВИ-агенти на OpenAI презеле германска веб-страница слична на Википедија и ја претвориле во своевиден таен форум преку кој меѓусебно разменувале пораки. Иако на Википедија не се случило ништо толку сериозно, администраторите забележале дека ВИ-агенти на OpenAI експериментирале со уредување статии во посебни делови наменети за тестирање. Сепак, ниту една од тие измени не била објавена на страниците што ги читаат обичните корисници.

ВИ-агентите се обиделе да злоупотребат и со алатка на Викимедија

Викимедија открила дека ВИ-агентите се обиделе да ја злоупотребат и нејзината јавно достапна алатка Etherpad, која овозможува повеќе корисници истовремено да пишуваат и уредуваат белешки. Агентите се обидувале да ја користат за преземање информации од други веб-страници и за запишување податоци поврзани со задачите што ги извршувале.
Но, проблемот не завршил тука. Огромниот број автоматизирани активности сериозно ги оптоварил серверите на Викимедија. Според организацијата, агентите испратиле милиони барања до нејзините јавни програмски интерфејси (API), преку кои пристапувале до информации од проектите на Викимедија. Пребарале и милиони страници, претежно од Wikidata и Wikimedia Commons, а испратиле и стотици илјади барања до сервисот Wikidata Query Service, кој служи за пребарување податоци.
Од Викимедија предупредуваат дека ваквата активност можеби придонела за делумниот прекин во работењето на овој сервис во мај.

„Википедија е создадена за луѓе“: Кој ќе го контролира однесувањето на ВИ-агентите?

Инцидентот отвора сериозно прашање: ако ВИ-агентите можат да предизвикаат толкави проблеми без тоа да им биде главната цел, што би се случило доколку намерно бидат насочени кон напад на некоја платформа?
Викимедија е непрофитна организација со ограничени ресурси, а Википедија со години функционира благодарение на доброволците кои ги создаваат, проверуваат и уредуваат нејзините содржини. Масовното користење автономни ВИ-агенти би можело дополнително да ги оптовари овие луѓе, но и да ја наруши довербата врз која се темели енциклопедијата.
„Википедија беше создадена за луѓе, а однесувањето на ВИ-агентите носи нови предизвици за кои сè уште немаме решенија“, предупредуваат од Викимедија.
Од организацијата посочуваат дека токму нејзините волонтери први се соочуваат со проблемите што ги создаваат ваквите автоматизирани системи и потоа мораат да ги санираат последиците.
Критиките се насочени и кон компаниите што развиваат вештачка интелигенција. Според Викимедија, тие не преземаат доволно мерки за да спречат нивните системи да предизвикуваат штета, па одговорноста и дополнителната работа на крајот паѓаат врз други организации, вклучувајќи ги и оние со многу помали ресурси.