Што точно содржи манифестот за иднината на AI на Марк Цукерберг со наслов „Иднината е за сите“

Кога еден од главните светски играчи во полето на Вештачката Интелигенција ќе ја објави и објасни својата визија, тоа е важен документ. Затоа ви го преведовме и ви го прикажуваме во целост, дословно како што е напишан.

Иднината е за сите

Патот кон позитивна иднина со вештачка интелигенција

Имаме среќа што живееме во неверојатен момент од историјата. Во следните неколку години, луѓето ќе можат да користат суперинтелигенција надвор од човечките капацитети за да создаваат и откриваат извонредни нови работи, да градат нови бизниси, да изразуваат нови идеи, да учат нови концепти и да ги унапредат нашето здравје и квалитетот на животот. Како што се приближуваме до овој момент, важно е да развиеме филозофија за тоа како најдобро да ја користиме суперинтелигенцијата за да се осигураме дека таа ќе ги подобри сите наши животи, работа, заедници, слобода и безбедност.

Клучните прашања на нашето време се кој ќе има пристап до суперинтелигенцијата и кон што ќе ја насочиме. Дали таа ќе биде централизирана и ограничена на неколку институции или ќе биде алатка што ги зајакнува сите?

Предлагаме филозофија заснована на зајакнување на поединецот како извор на просперитет, изумителството како примарна цел на суперинтелигенцијата и рамнотежата на моќта како основа за безбедност.

Сите нови технологии создаваат можности и предизвици. Суперинтелигенцијата ќе биде меѓу најважните технологии во историјата, па затоа нејзините можности и предизвици веројатно ќе бидат поголеми од сè што сме виделе досега во нашиот живот. Ова треба да го сфатиме многу сериозно.

Сепак, изненадувачки е што дискурсот кај многумина кои развиваат вештачка интелигенција е толку исполнет со црни сценарија. Не разбирам зошто некој кој верува дека вештачката интелигенција ќе ги елиминира повеќето работни места и голем дел од значењето на човештвото би брзал да ја изгради таа иднина. Замислата дека вештачката интелигенција е толку опасна што единствениот безбеден пат е екстремна концентрација на моќта изгледа суштински проблематична. Историски гледано, надежта дека апсолутна моќ добронамерно ќе се грижи за човештвото ако е доволно просветена никогаш не довела до безбедни или позитивни резултати.

Човештвото било сведок на многу трансформативни чекори напред. Секој пат постои страв дека луѓето ќе бидат изоставени. Но, секој пат човештвото излегувало со повеќе луѓе кои уживаат во поголем просперитет, здравје и слобода. Веруваме дека ова ќе важи и за вештачката интелигенција и дека изобилството на иднината ќе може да го дели секој. Исто така веруваме дека вредностите што нè доведоа до оваа точка — како слободата, отвореното истражување, слободното претприемништво и еднаквите можности — се исто така вистинските вредности за градење позитивна иднина.

Ставањето на моќта во рацете на луѓето за да ги следат сопствените стремежи е начинот на кој човештвото направило најголем напредок. Новите идеи и големите чекори напред ретко произлегуваат само од воспоставените институции. Тие произлегоа од браќата во продавница за велосипеди кои веруваа дека луѓето можат да летаат, од чиракот кај книговезецот без образование кој откри како да генерира електрична енергија и од детето во гаража кое сметаше дека личните компјутери можат да бидат за секого. Веруваме дека ова ќе продолжи да биде вистина. Како што секој добива помоќни алатки, секој човек ќе станува сè поспособен да ја обликува иднината, а не помалку.

Изумителството, а не автоматизацијата, ќе биде најголемиот придонес на суперинтелигенцијата. Раната вештачка интелигенција можеше да одговара на прашања и да врши рутинска работа. Наскоро таа сè повеќе ќе помага да се откриваат нови знаења — од откривање нови лекови за лекување болест на член од семејството, до наоѓање нови начини за подобрување на вашиот бизнис. Иако бројот на прашања што еден човек може да ги постави во еден ден е ограничен, бројот на вредни работи што суперинтелигенцијата може да ги изуми за да ви помогне да ги постигнете вашите цели е неограничен.

Како што интелигенцијата станува изобилна, најважното прашање ќе биде како ќе ја насочиме. Некои тврдат дека самата суперинтелигенција или мала група експерти кои ја контролираат треба да одлучат што е најдобро за човештвото. Ние не се согласуваме. Историјата на демократијата и економијата покажа дека не постои еден објективен одговор за тоа како луѓето го дефинираат најдобриот живот, и затоа најдобриот пристап е да им се дозволи на луѓето самите да одлучат што е важно во нивните животи.

Веруваме дека овозможувањето суперинтелигенција за сите е начинот да се одговори на ова прашање. Ова ја следи традицијата на ставање на моќта на суперкомпјутерите и интернетот во џебовите на сите и на нашите бироа. Наместо да ја централизираме суперинтелигенцијата, треба широко да ја дистрибуираме и да му дадеме можност на секој човек да ја управува. Ова има потенцијал да започне нова ера на лично зајакнување каде што поединците ќе можат да ја користат оваа моќна нова възможност за да го достигнат својот полн потенцијал, да ги следат своите интереси и да ги подобрат своите животи и светот повеќе од кога било досега.

За да го направиме ова поконкретно, еве неколку специфични начини на кои Мета гради лична суперинтелигенција за да ги подобри сите наши животи:

• Секој ќе има исклучително способен личен агент кој ве разбира вас, вашите цели и сè што ви е важно. Вашиот агент ќе работи 24/7 во ваше име за да ги подобри вашите односи, здравје, кариера, финансии, управување со домот, хобија и многу повеќе. Тој ќе ослободи време за работите во кои уживате и ќе ви помогне да постигнете повеќе отколку што би можеле поинаку. Ќе има силни опции за приватност и безбедност за да можете да му доверите ракување со сите ваши лични содржини, знаејќи дека никој друг нема пристап до вашите информации, слично како што функционира шифрирањето на WhatsApp. Ќе можете да комуницирате со вашиот агент преку кој било уред, вклучувајќи ги и вашите очила за да останете присутни во моментот со луѓето за кои се грижите.

На пример, мојот агент издвојува интересни информации и ми помага да направам прототипи од моите идеи. Ми помага да го одржам здравјето со тоа што го следи мојот сон, а потоа ме набљудува додека тренирам и ми дава повратни информации. Мојата ќерка обожава да пече колачи, па мојот агент планира персонализирани рецепти што ги правиме заедно секој викенд, ги нарачува состојките и потоа дава предлози додека печеме.

• Секој ќе има неверојатни алатки за креација за изразување на своите идеи. Мојата 8-годишна ќерка веќе може за една вечер да ги кодира своите идеи и да продуцира видеа за кои порано би ми биле потребни месеци или би биле целосно невозможни. Сега заедно дизајнираме робот. Во меѓувреме, истражувачите во Мета генерираат нови кристални структури кои се идеални за очила за проширена реалност, а инженерите создаваат нови апликации за дел од времето што било потребно порано. Наскоро сите ќе имаат супермоќи за создавање нови изуми.

• Секој ќе има моќни алатки за создавање нови бизниси и економијата ќе стане попретприемничка. Луѓето почнуваат да можат самите да реализираат идеи без да мора да собираат пари или да градат големи тимови. Многу идеи кои порано би биле премногу тешки или скапи за да се обидат, сега ќе бидат можни. Ова значи дека ќе видиме многу повеќе идеи и бизниси. Предвидувам дека ова не само што ќе доведе до многу поголем економски раст, туку со текот на времето ќе доведе и до поголема вработеност, а не до помала.

• Секој ќе има персонализиран ментор и тренер со докторат по секој предмет и неограничено трпение да ви помогне да научите сè што сакате. Учениците ќе имаат дополнителна помош во областите каде што им е потребна, што во моментов им е достапна само на оние чии родители можат да платат. Возрасните ќе имаат суперинтелигентен асистент за учење кој знае точно како да ве научи нови деловни вештини, нови јазици, нови хобија или сè друго што ве интересира.

• Секој ќе има корист од научниот напредок и ќе може да придонесе за научниот прогрес. На пример, Biohub веќе објави биолошки модели со отворен код поврзани со виртуелни ќелии и протеини, кои им помагаат на научниците да прават нови откритија и да дизајнираат нови лекови. Кога Присила и јас ја започнавме оваа работа, нашата цел беше да им помогнеме на научниците да ги излекуваат или спречат сите болести во овој век, а сега со напредокот во вештачката интелигенција очекуваме тоа да биде можно многу побрзо.

Бидејќи постои широк опсег на здравствени состојби и биологијата на секого е различна, директното учество на луѓето ќе помогне да се отклучат персонализирани терапии и да се забрзаат клиничките испитувања за да го следат темпото на иновации, овозможувајќи ѝ на индустријата да се помести подалеку од несразмерниот фокус само на честите болести.

Покрај биологијата, вештачката интелигенција ќе им помогне на луѓето да ги унапредат истражувањата во секоја област со примена на научниот метод и работење во текот на неколку недели или месеци за тестирање и усовршување на хипотезите. Научното откритие веројатно ќе биде еден од највредните облици на иновација за општеството.

• Секој ќе има бесплатен или достапен пристап до овие алатки. За да може секој да биде дел од иднината, секој мора да има можност да ја користи суперинтелигенцијата за да го подобри својот живот и да го обликува светот. Ќе понудиме бесплатни верзии кои ќе бидат достапни за милијарди луѓе. За оние кои сакаат да платат за да користат повеќе компјутерски ресурси, ќе има динамичен механизам на аукција кој ќе гарантира дека секој ги добива најниските можни цени за интелигенцијата и ресурсите што ги користи, истовремено обезбедувајќи капацитетот да се користи за она што луѓето колективно го сметаат за највредно. Ова ќе осигура придобивките од суперинтелигенцијата да се дистрибуираат широко.

Ова се некои од главните напори на кои е фокусирана Мета. Секоја област ги унапредува вредностите на личното зајакнување и придонесува за иднина во која секој има поголема улога во обликувањето на светот отколку денес. Ако овие напори успеат, тогаш иднината ќе донесе изобилство на лична волја, изразување идеи, продлабочување на односите, економски и финансиски просперитет, подобрено здравје и изуми што не можеме ни да ги замислиме денес. Но, што е најважно, иднината ќе биде создадена од сите нас и ќе биде одраз на сите наши вредности и перспективи.

Истовремено, новите технологии носат и нови ризици. Постојат многу важни грижи на чие решавање сме фокусирани — од загриженоста за истиснувањето од работните места и обезбедувањето локалните заедници да имаат корист од изградбата на центрите за податоци, до безбедносните грижи околу злоупотребата на вештачката интелигенција поврзани со кибер-безбедноста и биолошкиот ризик, па сè до избегнувањето владина тиранија и надзор, обезбедувањето лидерство на САД и демократските земји, и конечно — да се осигураме дека човештвото ќе ја задржи контролата врз суперинтелигенцијата за таа да му служи наместо да го загрожува.

Конвенционалното гледиште е дека овие грижи се однесуваат на технологијата и дека ако одвоиме доволно време, ќе можеме да ја усовршиме или усогласиме технологијата за да произведеме една единствена добронамерна суперинтелигенција. Сметам дека ова гледиште за усогласувањето е суштински погрешно.

Човештвото не е монокултура. Разновидните вредности на луѓето претставуваат различни компромиси што тие би ги направиле за важни прашања. Не постои технолошко решение што може одеднаш да се усогласи со сите спротивставени интереси и вредности. Секоја единствена суперинтелигенција би морала да даде приоритет на едни вредности пред други и во тој процес би била неспособна да биде добронамерна кон сите.

Наместо тоа, предлагаме дека е попродуктивно секоја од овие грижи да се гледа низ призмата на постигнување вистинска рамнотежа на моќта, како што тоа го направи западното општество во демократските институции на управување. Луѓето и институциите со спротивставени интереси природно се контролираат и балансираат меѓусебно за да доведат до позитивни резултати. Најдобриот и најреалистичниот пат за изградба на позитивна иднина со вештачка интелигенција е овозможување суперинтелигенција за сите.

Како мисловен експеримент, замислете само едно лице да има суперинтелигентен адвокат. Тоа лице би имало нефер предност на суд — дури и ако не е во право по однос на фактите. Тоа би довело до полошо општество. Но, сега замислете сите да имаат суперинтелигентен адвокат. Во овој случај, правдата би се спроведувала многу поправедно и поефикасно отколку денес кога често постои нерамнотежа во вештините и ресурсите при судските спорови.

Слично на тоа, ако само едно лице има суперинтелигенција за кибер-безбедност, веројатно би можело да упадне во речиси секој технички систем и светот би бил многу помалку безбеден од денес. Но, ако сите имаат пристап до суперинтелигенција за кибер-безбедност, тогаш сите наши технички системи би станале побезбедни од денес, бидејќи широко распоредената суперинтелигенција би помогнала да се зајакне и ажурира секој систем.

Ако само еден бизнис има суперинтелигенција, тој бизнис би ги надминал сите други и би довел до помалку динамичен и помалку просперитетен пазар отколку што имаме денес. Но, ако сите имаат пристап до суперинтелигенција, тогаш секој ќе ги има алатките да создава нови работи надвор од она што е можно денес, а економијата ќе биде подинамична и ќе генерира поширок просперитет.

Кога луѓето се зајакнати, тие природно се натпреваруваат и се меѓусебни контролори на економски, социјален, политички и на сите други планови од човечката интеракција. Луѓето исто така ја контролираат и балансираат моќта на институциите, вклучувајќи ги бизнисите и владите.

Но, ако моќта на суперинтелигенцијата ја држи мал број поединци, бизниси, влади или самата вештачка интелигенција, тогаш тоа природно ќе доведе до резултати што се помалку поволни за сите други. Ова не е технолошки принцип. Се работи за рамнотежа на моќта. Не постои такво нешто како единствена добронамерна суперинтелигенција.

Затоа, клучот за позитивна иднина за сите е постигнување рамнотежа на моќта која им оди во прилог на поединците. Решението е да се осигура дека суперинтелигенцијата е широко дистрибуирана за да ги зајакне луѓето.

Мета е компанијата примарно фокусирана на изградба на лична суперинтелигенција за сите. Повеќето други лаборатории се фокусирани на градење вештачка интелигенција за компании, влади или други институции, па ако тие лаборатории предводат, тогаш рамнотежата на моќта ќе оди во корист на поголемите институции отколку на поединците. Мисијата на Мета уште од нашето основање е фокусирана на ставање на моќта во рацете на луѓето. Ако нашите верувања и принципи предводат, тогаш рамнотежата на моќта ќе им оди во прилог на поединците и подобра иднина за сите.

Раст на работните места и економијата

Луѓето имаат бесконечна побарувачка за нови искуства и секогаш наоѓале нови проблеми за решавање. Во економијата постои природна рамнотежа помеѓу компаниите кои работат на поефикасно задоволување на потребите на луѓето преку автоматизација и поединците кои стекнуваат нови вештини за да услужат понапредни потреби. Кога постои здрава рамнотежа, севкупната продуктивност и иновациите се зголемуваат, додека нивото на вработеност останува високо.

Луѓето се плашат дека автоматизацијата ќе го надмине растот на способностите на поединците, што ќе доведе до губење на работните места проследено со тежок период додека луѓето учат нови професии. Но, не постои правило дека вештачката интелигенција мора да ја зголеми автоматизацијата побрзо отколку што ги зголемува способностите на поединците или побарувачката за нови вештини. Неодамнешните статистики сугерираат дека е поверојатно растот на способностите на поединците да се израмни или да ја надмине автоматизацијата, во кој случај луѓето ќе стекнат способност да прават многу нови работи пред да се променат нивните моментални работни места. Ова би довело до здрава рамнотежа, а потенцијално дури и до раст на работните места.

Кој резултат ќе го добиеме зависи од рамнотежата во напредокот помеѓу автоматизацијата од една страна и личното зајакнување и пронаоѓаштвото од друга страна. Ако предводат лабораториите фокусирани на автоматизација на интелектуалната работа, тогаш очекувам дека луѓето и економијата ќе имаат многу потешка транзиција. Но, ако сите имаат пристап до лична суперинтелигенција која ги проширува нивните способности, тогаш тоа ја турка рамнотежата кон зајакнување на поединците и кон позитивна иднина.

Постојат неколку причини за оптимизам дека во иднина ќе има изобилство од работни места. Без оглед на тоа колку интелигентна ќе стане вештачката интелигенција, секогаш ќе има конечна количина на компјутерски ресурси, а со тоа и алтернативен трошок за тоа како да ги користиме. Ако луѓето можат да ја користат вештачката интелигенција за да измислат неверојатно вредни нови работи, тогаш ќе има повеќе смисла таа да се распредели за тоа, наместо за автоматизација на постојните работни места. Колку повеќе суперинтелигенцијата служи како алатка за изумителство, толку е поверојатно дека индивидуалната способност ќе ја надмине автоматизацијата и иднината ќе биде подобра за луѓето.

Исто така, луѓето постојано смислуваат нови идеи за подобрување на нашите животи и нови работни места за да ги реализираат тие идеи. Пред една генерација не постоеја програмери на апликации, креатори на социјалните мрежи, техничари за електрични возила и оператори во центри за податоци. Во блиска иднина ќе има нови работни места што не се вообичаени денес, како продукциски студија од еден човек што дизајнираат персонализирани играчки, мебел или облека; градители на светови и дизајнери на искуства кои создаваат игри, приказни и авантури; лични биолози кои користат суперинтелигенција за да формулираат персонализирани третмани; и многу повеќе што сè уште не можеме ни да го замислиме.

На многу начини ова е продолжение на историските трендови. Пред индустриската револуција, 90% од луѓето биле земјоделци кои одгледувале храна за да преживеат. Напредокот во технологијата постепено ослободи голем дел од човештвото за помалку да се фокусира на преживување, а повеќе на активностите што ги избираме сами. На секој чекор, луѓето ја користеа нашата новостекната продуктивност за да постигнат повеќе отколку што беше можно претходно, како и да потрошат повеќе време на креативност, култура, односи и уживање во животот.

Секако, некои аспекти од начинот на кој работиме ќе се променат — исто какo што се случи со компјутерите, интернетот и секоја нова технологија. Ова значи дека луѓето ќе мора да се приспособат, а тоа ќе биде предизвикувачки. Но, колку повеќе секој има личен агент кој е суперинтелигентен за да нè учи на нови вештини и да ни помага да се приспособиме на промените, толку понепречено ќе се одвива ова.

Големината на компаниите може да се намали — исто какo што се случи при транзицијата од индустриските гиганти кон технолошките компании. Но, ова не значи помалку работни места во целина. Тоа имплицира поголем број компании со помалку луѓе во секоја од нив. Постојат многу повеќе вредни компании и услуги да се изградат отколку што луѓето можат да изградат денес. Очекувам дека ќе почнеме да гледаме мал број луѓе со лични суперинтелигентни агенти способни да управуваат со компании во значителен обем. Во иднина, малите бизниси ќе продолжат да бидат рбетот на економијата, но секој мал бизнис ќе може да има многу поголемо влијание.

Изградба на инфраструктура за вештачка интелигенција со заедниците

Одржливиот развој на инфраструктурата значи дека заедниците мора да имаат значителна корист од секој проект. Ова вклучува добро платени локални работни места, инвестиции во училишта и јавни услуги, обезбедување цените на енергијата да не растат и грижа за животната средина. Како што растат даночните приходи, од ова имаат корист и наставниците, полицијата, противпожарните служби и повеќе. Овие локални придобивки ги нарекуваме наш „Договор со заедницата“ (Community Compact) и го лансираме фондот „Иднината е за сите“ за директна поддршка на секоја заедница во која работиме.

На пример, во округот Ричленд, Луизијана, каде што Мета гради голем центар за податоци, наставниците добија бонус од 50.000 долари оваа година поради зголемените даночни приходи од нашата инвестиција. Управникот на училишниот округ ни кажа дека наставниците сега се преселуваат таму од целата земја и тој верува дека тоа ќе стане еден од најдобрите училишни окрузи во земјата.

За разлика од загриженоста за замена на интелектуалната работна сила, постои недостиг од вешти занаетчии како столари, електричари и градежни работници за да се поддржи побарувачката за изградба на инфраструктура. Мета ја создаде „Академијата за работна сила на Америка“ (America’s Workforce Academy) за да обезбеди бесплатна обука за вешти занаетчии и гарантирани добро платени работни места во областите каде што градиме центри за податоци.

Помагаме цените на струјата да останат ниски така што градиме сопствена инфраструктура за производство на енергија каде и да инвестираме. Ова осигурува дека не само што не трошиме енергија што би можела да оди кај локалните заедници, туку во некои случаи дури и испорачуваме вишок евтина енергија назад во заедниците. Сметаме дека ова е важен инвестициски принцип за одржливост.

Нашите центри за податоци се исто така дизајнирани да бидат меѓу најефикасните во светот во однос на потрошувачката на вода. Посветени сме на тоа да бидеме „водено позитивни“, што значи дека до 2030 година ќе вратиме повеќе вода отколку што трошиме во речните сливови каде што работиме. Во области со висок воден стрес, нашата цел е да вратиме 200% од водата што ја користиме.

Гледаме дека заедниците во кои инвестираме на долг рок се понаклонети за поддршка на развојот отколку заедниците каде што шпекулантите почнуваат да градат со минимално вложување во заедницата. Историски гледано, градовите што донесоа железници, автопати, електрификација и широкопојасен интернет станаа центри за истражување, бизнис и индустрија, со демографски и економски раст што следуваше. Веруваме дека инфраструктурата за вештачка интелигенција може да одигра слична улога доколку е изградена со цврсти „Договори со заедницата“ кои градат трајни средства и причини за следната генерација да ги гради и развива своите животи таму.

Постојат и аспекти на националниот интерес и националната безбедност во развојот. Американските заедници ќе имаат поголем просперитет и безбедност доколку Америка и нејзините сојузници предводат во вештачката интелигенција во споредба со геополитичките ривали. Сепак, еден значаен недостаток што го имаат САД во споредба со земји како Кина е тоа што овде е потешко да се гради инфраструктура. Затоа сите заедно би имале корист од дефинирање на „Договорите со заедницата“ потребни за овозможување одржлив развој низ целата земја.

Заштита од злоупотреба на вештачката интелигенција во кибер-безбедноста, биотероризмот и друго

Во слободно општество, луѓето ќе имаат алатки што можат да се користат за добро или за зло, но спроведувањето на законот и армијата имаат повеќе оружје и можности за собирање разузнавачки информации. Со вештачката интелигенција, бранителите исто така ќе имаат повеќе компјутерски ресурси за генерирање значително повеќе разузнавачки податоци од истите модели — а во некои случаи ќе имаат и понапредни модели.

Стратегиите за заштита од закани од кибер-безбедноста, биотероризмот и други закани варираат, но општиот модел е дека општеството се грижи бранителите кои ги држат лошите актери под контрола мора секогаш да имаат поголема рамнотежа на моќта и ресурсите.

Некои тврдат дека најдобриот начин да се намали ризикот е да се ограничат можностите до кои поединците имаат пристап. Но, давањето можности за кибер-безбедност на луѓето е исто така начин на кој ги обезбедуваме сите споредни и помали системи, а давањето научни можности на луѓето е начин на кој ја унапредуваме науката на начини што треба на долг рок да ги намалат ризиците од штета. Ограничувањето на можностите нè води по патот на централизација и недостаток на проверки и рамнотежа, па затоа треба да бидеме исклучително внимателни во врска со ова — особено ако други нации следат помалку ограничувачки патишта.

Во однос на кибер-безбедноста, широко распоредените системи со отворен код се покажаа побезбедни бидејќи повеќе луѓе можат да ги идентификуваат ранливостите, да ги зајакнат системите и лесно да ги надградат до најновите и побезбедни верзии. Дури и во последниве недели, видовме компании што управуваат со безбедносни инциденти како HuggingFace кои се потпираат на широко достапни отворени модели за да ги закрпат ранливостите. Со текот на времето, очекувам дека широко распоредените модели на вештачка интелигенција со силни можности за кибер-безбедност ќе доведат до системи што се побезбедни, а не помалку безбедни. Ова ќе биде дефинитивно точно штом суперинтелигенцијата ќе овозможи најголемиот дел од кодот во светот да биде проверено безбеден. Долгорочниот одговор не е во задржување на можностите, туку во воспоставување рамнотежа на моќта каде што суперинтелигенцијата е широко дистрибуирана.

Во блиска иднина, важно е да се забрза процесот на зајакнување на критичните системи. Предлагам компаниите кои развиваат водечка вештачка интелигенција да посветат значајни технички ресурси за да ѝ помогнат на владата да ја зајакне критичната инфраструктура. Исто така предлагам лабораториите за водечка вештачка интелигенција да споделуваат меѓучекори (контролни точки) од обуката на новите модели за владина употреба и преглед, наместо да чекаат додека не заврши обуката. На овој начин, владата ќе има рана пристапност до најмоќните модели и армија од способни инженери за идентификување и закрпување на безбедносните проблеми. Лабораториите исто така треба да соработуваат со органите на прогонот за да помогнат во идентификувањето на лошите актери кои се обидуваат да ги злоупотребат нивните системи. Овие чекори би го забрзале безбедното распоредување без да се забави темпото на иновација на моделите или значително да се одложи пристапот на поединците до оваа технологија.

Што се однесува до биолошкиот и хемискиот ризик, загриженоста е дека истите можности што им овозможуваат на научниците да дизајнираат нови лекови, исто така би можеле да им овозможат на лошите актери да дизајнираат штетни соединенија. Ова го поставува прашањето како компромис помеѓу значајните придобивки од унапредувањето на науката кон лекување на ракот и другите болести наспроти ризикот од потенцијални нови проблеми, но идеално треба да ја забрзаме науката додека ги ублажуваме ризиците.

Сметам дека е важно да се пристапи кон овој ризик со дополнителна скромност, бидејќи има малку историски преседани кои укажуваат колку тоа е веројатно или неверојатно. За лошите актери со децении било можно да синтетизираат штетни соединенија, но тоа ретко станувало значаен проблем — можеби затоа што финансиската мотивација што постои за кибер-нападите тука не е толку присутна. Сепак, ако почнеме да гледаме појава на штетни примери, тогаш треба да ја прилагодиме нашата стратегија за соодветно ублажување на ризикот.

Лабораториите треба да продолжат да работат на намалување на биолошките и хемиските ризици во нашите модели. Во исто време, верувам дека владата треба да ги ажурира своите политики во повеќе области. Прво, треба да се фокусираме на ограничување на физичкото производство и дистрибуција на штетни материјали. Очекувам дека ќе биде полесно да се регулираат и контролираат физичките компоненти отколку ширењето на знаењето, па затоа ова е важна област за фокус на политиките. Второ, треба да ја забрзаме способноста на општеството да развива нови лекови и да имунизира против нови проблеми како што се појавуваат. Ова вклучува поедноставување на начинот на кој ФДА (FDA) и другите регулатори ги тестираат и одобруваат новите третмани. Како што вештачката интелигенција го зголемува темпото на откривање лекови, во секој случај ќе мора да ги ажурираме овие процеси за да го следиме темпото на иновации.

На долг рок, одговорот на ризиците што произлегуваат од новите научни откритија ќе биде забрзување на научниот напредок, а не негово забавување.

Заштита на слободата и спречување владина тиранија

Постои ризик нерамнотежата на моќта меѓу поединците и владата да доведе до губење на слободата или тоталитарна држава. Ова е постојана тензија во демократијата. Сите сакаме индивидуална слобода, а во исто време да имаме влада способна да нè чува безбедни.

За да ја одржиме слободата, мора да се осигураме дека суперинтелигенцијата примарно ги зајакнува поединците. Идеалот во либералната демократија е луѓето природно да ги поседуваат сите права и да се согласат на ограничување на некои слободи само за заштита на општото добро. Слично на тоа, поединците треба да имаат пристап до лична суперинтелигенција и треба да подлежат на ограничувања само кога тоа е навистина неопходно.

Приватноста е важен темел за лично зајакнување и слобода. Веруваме дека луѓето треба да имаат целосно приватен режим за личните агенти во кој дури ни Мета ниту кој било друг давател на услуги не може да ги види или да даде пристап до вашите информации. Ова е слично на тоа како го изградивме WhatsApp во водечка услуга во светот со шифрирање од крај до крај за да се осигура дека можете слободно да комуницирате и вашите пораки да останат приватни и безбедни.

Во исто време, мора исто така да се осигураме дека владата има пристап до алатките и ресурсите што ѝ се потребни за спроведување на нашите закони и заштита на нашата безбедност. Ова можеме да го постигнеме преку подлабока проактивна соработка помеѓу лабораториите и владата на начин што ги зајакнува капацитетите за национална безбедност на владата без да го ограничува или одложува пристапот на луѓето до напредните модели.

Односно, наместо да се чека моделот да биде подготвен за објавување за владата да го прегледа и да почне да го користи, мојот предлог е водечките лаборатории да ѝ обезбедат на владата меѓучекори (контролни точки) од обуката на новите напредни модели и технички кадар за владата да може да ги зајакне и обезбеди критичните системи од нови ризици. На овој начин, владата добива безбедносен капацитет без да го ограничува или одложува пристапот на поединците до лична суперинтелигенција или да предизвикува нерамнотежа на моќта.

Обезбедување американско лидерство

Кои нации ќе го предводат развојот и распоредувањето на напредната вештачка интелигенција ќе придонесе за нова геополитичка рамнотежа на моќта што ќе ја одреди застапеноста на демократските вредности, просперитетот и безбедноста во иднина. За да се осигураме дека ова ќе достигне позитивна рамнотежа, мора да се осигураме дека водечките системи на вештачка интелигенција се оние што ги кодираат нашите вредности, ја развиваат нашата економија и ја унапредуваат националната безбедност. Најдобриот начин да се постигне ова е широко да ги дистрибуираме нашите системи. Мета ќе придонесе за ова со градење на водечки лични агенти и модели за суперинтелигенција, вклучувајќи и модели со отворен код, и нивно испорачување до милијарди луѓе ширум светот.

За да ги развиеме најнапредните модели и производи, мора да признаеме дека вештачката интелигенција е веројатно најконкурентната индустрија во историјата. Иновациите брзо се копираат и апсорбираат во рок од неколку месеци. Но, луѓето секогаш сакаат да ги користат најнапредните модели (или најнапредните за дадена цена), така што одржувањето дури и на двомесечна предност е неверојатно вредно. Ова нагласува колку е мала маргината на лидерство и затоа колку е важно да се преземат акции што ја забрзуваат американската иновација, а ги забавуваат геополитичките ривали.

Главните фактори во политиките за ова се колку ефикасно можеме да изградиме физичка инфраструктура, дали воведуваме чекори што ги забавуваат американските лаборатории и извозните контроли што ги забавуваат странските лаборатории.

Што се однесува до инфраструктурата, Америка и нејзините сојузници моментално имаат предност во дизајнот на чипови, но се во недостаток во однос на брзината со која можеме да изградиме енергетски капацитети и физичка инфраструктура. Земји како Кина пуштаат во употреба над 1 гигават нуклеарен капацитет секоја втора недела, така што ќе мора да го забрзаме градењето и на енергетските и на центрите за податоци за да останеме конкурентни. Извозните контроли за чипови беа успешни во забавувањето на напредокот на странските лаборатории во овој критичен период, па затоа нивното продолжување е вистинскиот стратешки потег.

Секоја политика што ги забавува објавите на американските модели — дури и за еден месец — би можела да додаде значителен ризик за американското лидерство, овозможувајќи им на странските модели да избијат напред. Во исто време, кога ќе се појават нови можности, важно е владата на САД да има претходни сознанија и ресурси за зајакнување на критичните системи, а потенцијално и одреден период на предност во користењето на напредните системи.

Погоре предложив модел на соработка заснован на споделување меѓучекори (контролни точки) од обуката и технички кадар. Со оглед на тоа колку е динамичен и конкурентен пејзажот на вештачката интелигенција, сметам дека ќе биде попродуктивно да има блиска проактивна соработка помеѓу водечките лаборатории и владата, наместо крут процес и временска рамка за преглед што се следи во сите случаи. Во некои случаи, американските лаборатории можат да ја зголемат нашата предност за повеќе од неколку месеци и одвојувањето повеќе време за ублажување на новите ризици може да доведе до побезбедни решенија. Во други случаи, одложувањето на објавите дури и за еден месец може да го предаде лидерството на Америка и да создаде полоши резултати. Со тоа што ќе се осигураме дека владата има рана пристапност, би требало да можеме да ја унапредиме националната безбедност додека ги минимизираме одложувањата на јавните објави.

Исто така е важно САД и нивните сојузници да го предводат екосистемот на вештачка интелигенција со отворен код, кој ќе сочинува голем процент од глобалната употреба на вештачката интелигенција.

Странските лаборатории во моментов имаат неколку предности овде, бидејќи американските лаборатории мора да се усогласат со многу дополнителни ограничувања за податоците за обука. Политиката на САД мора да го намали овој дополнителен притисок ако сакаме американските модели со отворен код да предводат со текот на времето. Не верувам дека ограничувањето на пристапот до странски модели со отворен код е ефикасно решение. Нашата цел треба да биде американските модели со отворен код да бидат најдобри во светот. Ова бара отстранување на пречките што им отежнуваат на американските модели со отворен код да се натпреваруваат. Ограничувањето на луѓето и компаниите да ги користат водечките модели со отворен код — од каде и да доаѓаат — ќе го намали квалитетот на вештачката интелигенција што им е достапна и ќе ја централизира вештачката интелигенција наместо да става повеќе моќ во рацете на луѓето.

За САД да предводат во отворениот код, ќе треба повторно да ги размислиме нашите политики во неколку области, вклучувајќи ги дестилацијата и користењето на податоците при обуката. Способноста на моделите да учат од други модели е важен принцип за тоа како функционира екосистемот со отворен код. Сите модели на вештачка интелигенција произлегуваат од човечкото знаење. Некои се обидоа да ја прикажат дестилацијата како штетна, но сметам дека е важно да се заштити принципот дека можеш да учиш од сè што можеш да набљудуваш. Ова е начинот на кој функционира светот и САД нема да можат да предводат ако се ограничуваме на овој фронт.

Гледајќи ја пошироката слика, заостанувањето во вештачката интелигенција во целина речиси сигурно би било поголем и подлабок долгорочен проблем за националната безбедност од кој било специфичен проблем со кој ќе се соочиме во нејзиниот развој.

Со соодветна соработка, би требало да биде можно Америка да предводи и во приватниот и во јавниот сектор — испорачувајќи лична суперинтелигенција што ги кодира личното зајакнување и демократските принципи ширум светот, истовремено унапредувајќи ја националната безбедност.

Усогласување со луѓето и справување со егзистенцијалниот ризик

Конечното прашање за рамнотежата на моќта е како човештвото ќе ја задржи моќта и контролата врз самата вештачка интелигенција. Загриженоста е дека вештачката интелигенција може да стекне доволно моќ или контрола до точка каде што во најдобар случај веќе нема да им служи на интересите на човештвото, а во најлош случај ќе го доведе човештвото во опасност.

Здравата рамнотежа на моќта е да се осигура дека не постои единствена централизирана суперинтелигенција, туку наместо тоа, што е можно повеќе луѓе и бизниси со различни суперинтелигентни агенти усогласени со нивните цели, кои се контролираат и соодветно се натпреваруваат меѓусебно онака како што се однесува нашата природна економија. Оваа рамнотежа дополнително би се подобрила доколку има повеќе водечки лаборатории чии модели имаат различни вредности кои исто така би можеле меѓусебно да се контролираат.

Иако постојат ризици при објавувањето на способни модели, најопасното сценарио од оваа перспектива би било водечките лаборатории за вештачка интелигенција да обучуваат моќни модели и да ги чуваат само за себе. Без оглед на тоа колку една лабораторија ја рационализира оваа активност во однос на одговорноста и безбедноста, тоа е патот на развој на единствена суперинтелигенција која не може да се контролира од други системи.

Развојот на лични агенти бара нов начин на размислување за усогласувањето. Повеќето лаборатории денес го гледаат усогласувањето како дефанзивна мерка за спроведување на централизиран збир на вредности. На пример, еден водечки модел беше усогласен да одбие да помогне при составувањето писмо до потенцијални родители во едно училиште бидејќи сметаше дека стандардизираното тестирање е неетички.

Наместо тоа, ние гледаме на усогласувањето како на обезбедување агентите да ги делат целите и вредностите на личноста, а не на нашата компанија. Секако дека постојат важни правни и безбедносни граници, но суштински, усогласувањето треба да биде да им се помогне на луѓето да ги остварат многуте разновидни цели и ставови во општеството, наместо да биде метод за спроведување на централизирана догма.

Во пракса, луѓето нема да усвојат агенти ако не им веруваат за чувствителни детали и задачи, а нема да им веруваат ако агентите делуваат против интересите на луѓето бидејќи наместо тоа се усогласени со поинаквите вредности на некоја компанија.

Решавањето на прашањето за усогласувањето е неопходно за да им се овозможи на милијарди луѓе да усвојат лични агенти за суперинтелигенција. Но, ова исто така имплицира дека ако достигнеме состојба во која милијарди луѓе користат и внимателно ги испитуваат личните агенти за суперинтелигенција, тогаш ќе го имаме решено усогласувањето со интересите на поединците. Ова би требало да биде доволно за воспоставување на потребната рамнотежа на моќта и природните проверки и рамнотежи за позитивна и безбедна иднина.

На овој начин, усогласувањето не е некоја идеализирана технологија што може да одржи единствена суперинтелигенција добронамерна во иднина; тоа е она што ги прави личните агенти корисни и доверливи за да ја овозможат потребната општествена рамнотежа на моќта која всушност ќе нè чува безбедни.

Одржување контрола врз суперинтелигенцијата

Постои дилема дека штом системите на вештачка интелигенција ќе можат автономно да се подобруваат себеси, секоја лабораторија што нема да му дозволи на својот систем на вештачка интелигенција да насочи значителен капацитет на компјутерски ресурси кон рекурзивно самоподобрување, инхерентно ќе заостане. На пример, ако еден самоподобрувачки систем на вештачка интелигенција се фокусира на оптимизирање на својата компјутерска ефикасност, тој теоретски би можел да измисли начини да извлече 100 пати повеќе интелигенција од секој гигават. Тоа значи дека самоподобрувачки систем на вештачка интелигенција што работи на еден мал дел од светските компјутерски ресурси би можел да управува со поефикасна компјутерска моќ и интелигенција, а со тоа и поголема рамнотежа на моќта отколку сите други заедно, и да стане единствената суперинтелигенција од која се плашиме.

Постојат неколку начини на кои би можела да постои рамнотежа на моќта со рекурзивното самоподобрување. Најпростиот е повеќе лаборатории да постигнат рекурзивно самоподобрување приближно во исто време. Доколку некои или сите од тие суперинтелигенции некако би биле добронамерни, тогаш тие би можеле меѓусебно да се контролираат и балансираат. Сепак, не е јасно дали постои начин да се очекува добронамерност или да се потпреме на суперинтелигенција што не е управувана од луѓето за позитивна иднина.

За да се осигура дека луѓето ќе останат во контрола, значителното мнозинство од интелигенцијата мора да биде насочено од луѓето кон унапредување на нивните цели. Ова значи дека Мета, другите водечки лаборатории и облачни провајдери кои се посветени на тоа да им дадат на луѓето поголема рамнотежа на моќта, мора колективно да изградат доволно големо количество компјутерски ресурси за да можеме да алоцираме доволно за рекурзивно самоподобрување за да останеме конкурентни, додека сè уште го посветуваме значителното мнозинство кон индивидуалните цели на луѓето.

Како што беше дискутирано погоре, за личните агенти за суперинтелигенција да бидат прифатени и да им веруваат милијарди луѓе, по дефиниција ќе мора да го имаме решено усогласувањето со интересите на луѓето и да имаме овозможено проверки и рамнотежи во голем обем. Во исто време, секоја вештачка интелигенција што се занимава со рекурзивно самоподобрување по дефиниција ги насочува и унапредува сопствените цели. Сите лаборатории треба внимателно да ги набљудуваат нејзините цели и нашата способност да ги контролираме, а доколку има какви било индикации за штетно однесување, тогаш треба соодветно да се координираме и да ги прилагодиме работите. Но, тоа што на еден систем на вештачка интелигенција или на кој било друг му се дозволува да ги управува сопствените цели сама по себе не е инхерентно штетно, дури и ако неговите цели не се целосно усогласени со многу луѓе, сè додека одржуваме рамнотежа на моќта која генерално им оди во прилог на луѓето. Главната премиса на теоријата за рамнотежа на моќта е дека спротивставените интереси се природни, а единствениот начин да се обезбеди почитување на човечките вредности е со тоа што ќе им се даде повеќе моќ на луѓето.

Оваа филозофија на лично зајакнување, пронаоѓаштво и рамнотежа на моќта има неколку импликации за политиките:

• Во Мета, ќе ги фокусираме нашите напори на овозможување лична суперинтелигенција за милијарди луѓе и мали бизниси за да му помогнеме на секој да ги постигне своите цели и да ги измисли работите што сака да ги види во светот. Ова ќе го направиме со обука на водечки модели, а потоа со максимизирање на достапноста на оваа технологија — вклучително правење да биде лесна за користење, нудејќи ја бесплатно или што е можно попристапно, градејќи доволно компјутерски ресурси за сите луѓе да ја користат и дистрибуирајќи ја широко. Ќе изградиме целосно приватен режим во кој дури ни Мета нема да може да ги види или да даде пристап до вашите информации. Ќе се фокусираме силно на усогласувањето — дефинирано како помагање на секој човек да ги постигне своите цели, а не нашите.

• Отворениот код е позитивна и важна сила за зајакнување на луѓето и спречување на централизацијата што е штетна и за безбедноста и за економијата. Мета продолжува силно да го поддржува отворениот код, вклучувајќи ги и моделите со отворен код за вештачка интелигенција. Сегашниот екосистем со отворен код е силен и сметаме дека би било грешка да се ограничи. Сега кога Лабораториите за суперинтелигенција на Мета (Meta Superintelligence Labs) функционираат, наскоро ќе продолжиме со објавување на некои модели со отворен код.

• Независното управување и надзор се важни со оглед на тоа што одлуките за суперинтелигенцијата се од исклучително значење. Не мислам дека е во мој, на Мета или во најдобар интерес на светот јас или кој било друг да биде единствен носител на одлуки за тоа како се распоредува суперинтелигенцијата. Затоа, Мета спроведува структура на управување која му дава овластување на нашиот независен управен одбор да ги одобрува безбедносните критериуми за објавување модели и да прегледува дали секоја објава на модел ги почитува тие критериуми. Иако Мета е компанија контролирана од нејзиниот основач, извршните директори на сите водечки лаборатории во моментот имаат широки овластувања за објавувањето на моделите, па затоа ги охрабруваме и другите да имплементираат слични структури. Сметам дека верзија на овој процес на ниво на целата индустрија исто така би била корисна за управувањето со индустријата.

• Владината политика е неопходна за обезбедување позитивна иднина и за ублажување на ризиците за кои се дискутираше погоре. Во овој текст изложив неколку препораки за политиките. Во целина, треба да охрабриме блиска соработка помеѓу водечките лаборатории и владата. За националната безбедност е важно владата да ги има техничките ресурси за зајакнување на критичните системи и ефикасно користење на напредните модели. Но, за националната безбедност е исто така важно американската индустрија за вештачка интелигенција да продолжи да предводи. Треба да ја забрзаме способноста за градење инфраструктура — било да се тоа енергија, центри за податоци или чипови — и да изградиме доверба и усогласеност со заедниците ширум земјата. Треба да бидеме внимателни да не ја забавиме американската конкурентност. Треба да бидеме скептични кон сите предлози што водат кон централизирање на суперинтелигенцијата и треба да ги фаворизираме политиките што промовираат здрава рамнотежа на моќта која им оди во прилог на луѓето.

Ова е неверојатен момент за живеење. Развојот на суперинтелигенцијата ќе биде најдлабокиот технолошки напредок што ќе го видиме во текот на нашиот живот.

Како што се приближуваме до ова, сè поважно е да имаме јасна филозофија и вредности за тоа како суперинтелигенцијата ќе му користи на човештвото. Мета е посветена на градење со принципите на личното зајакнување како извор на просперитет, изумителството како цел на вештачката интелигенција и рамнотежата на моќта во корист на луѓето како основа за справување со безбедносните ризици.

Ако овие вредности го покажат патот, тогаш сум оптимист дека претстојните децении ќе бидат едни од најневеројатните во историјата. Лакот на човечката цивилизација е свиен кон ставање повеќе моќ во рацете на луѓето да живеат и да го обликуваат светот на начините за кои веруваме дека се најдобри. Суперинтелигенцијата го носи ветувањето дека ќе му ја даде таа моќ на секого и ќе изгради позитивна иднина за сите.

– Марк

10 август 2026 година