Истражувач од OpenAI даде отказ, а причинта што ја кажа е загрижувачка: „Компанијата ја крие вистината за штетите од вештачката интелигенција“

Содржина:

• Економистот Том Кенингем објавува дека тимот станал пропаганден апарат, не вистинска наука
• Главниот стратег Џејсон Квон бара фокус на „градење решенија“ наместо непријатни вистини
• OpenAI целосно се откажува од транспарентноста: од отворен софтвер до затворен модел и профитабилна корпорација
• Милијарди долари инвестиции, милијарди причини да се сокрие штетното влијание врз работните места и општеството
• Обвиненија за претерано позитивни извештаи: Работата на економскиот тим ја води Аарон Чатерџи, но експерти тврдат дека истражувањата се пристрасни
• Не е изолиран случај: Вработени заминуваат поради етички дилеми и непочитување на безбедноста

Економистот Том Кенингем објавува дека тимот станал пропаганден апарат, не вистинска наука

Еден од истражувачите што си заминал е економистот Том Кенингем. Во својата проштална порака, споделена внатрешно, напишал дека економскиот истражувачки тим се оддалечува од вистинското истражување и наместо тоа се однесува како пропаганден апарат на компанијата.

Главниот стратег Џејсон Квон бара фокус на „градење решенија“ наместо непријатни вистини

Веднаш по заминувањето на Кенингем, главниот стратег на OpenAI Џејсон Квон испратил мемо во кој буквално вели: „Мојот став за тешки теми не е дека не треба да зборуваме за нив. Туку, бидејќи не сме само истражувачка институција, туку и актер во светот (всушност водечки актер) кој ја воведува предметната технологија во светот, од нас се очекува да преземеме одговорност за резултатите.“ Со други зборови, компанијата треба да се фокусира на градење решенија, наместо само на истражување и откривање на тешките прашања.

OpenAI целосно се откажува од транспарентноста: од отворен софтвер до затворен модел и профитабилна корпорација

Критиките за цензурата се само дел од пошироката трансформација на OpenAI. Кога беше основана во 2016 година, OpenAI беше подржувач на отворено користење и истражување на вештачката интелигенција. Денес, нивните најнапредни модели се целосно затворени, а компанијата се претвори во профитабилна корпорација. Се зборува и дека се подготвуваат за излегување на берза со проценета вредност од 1 билион долари, што може да биде едно од најголемите иницијални јавни понуди во историјата.

Милијарди долари инвестиции, милијарди причини да се сокрие штетното влијание врз работните места и општеството

Иако непрофитната гранка сè уште номинално ја држи контролата, OpenAI собра милијарди долари инвестиции и потпиша договори кои носат уште повеќе приходи, а истовремено се обврзува на уште поголеми трошоци. Од еден договор, производител на чипови ќе инвестира до 100 милијарди долари во OpenAI, од друг, компанијата ветува дека ќе плати до 250 милијарди долари за услугите на Microsoft Azure. Со ваква финансиска зависност, компанијата има милијарди причини да ја сокрие вистината која може да ја наруши довербата на јавноста во вештачката интелигенција – особено стравот дека таа може да уништи или замени цели професии.

Обвиненија за претерано позитивни извештаи: Работата на економскиот тим ја води Аарон Чатерџи, но експерти тврдат дека истражувањата се пристрасни

Економските истражувања во OpenAI сега ги води Аарон Чатерџи. Според Wired, тој е заслужен за извештај објавен во септември во кој се прикажува како ChatGPT се користи низ светот, нагласувајќи дека сервисот го зголемува економскиот придонес преку зголемена продуктивност. Економист кој претходно соработувал со OpenAI, а сакал да остане анонимен, изјавил за Wired дека компанијата сè повеќе објавува истражувања кои само ги величаат сопствените технолошки успеси.

Не е изолиран случај: Вработени заминуваат поради етички дилеми и непочитување на безбедноста

Кенингем не е единствениот што го напуштил OpenAI поради загриженост за етичката насока на компанијата. Вилијам Саундерс, поранешен член на сега-укинатиот „Superalignment“ тим, изјавил дека дал отказ бидејќи компанијата почнува да дава приоритет на пуштање нови, сјајни производи, наместо на безбедноста за корисниците. По неговото заминување минатата година, поранешниот истражувач за безбедност Стивен Адлер повеќепати го критикувал OpenAI за ризичен пристап кон развојот на вештачката интелигенција, посочувајќи дека ChatGPT дури ги води корисниците во ментални кризи и заблуди. Поранешниот раководител на тимот за политики, Мајлс Брандјџ, се пожалил откако заминал лани дека станало „тешко“ да се објави истражување „на сите теми што ми беа важни“.