OpenAI невидливо ќе ги означува текстовите генерирани со вештачка интелигенција
Компанијата OpenAI започнува со примена на нова технологија која овозможува невидливо означување на текстовите создадени со вештачка интелигенција. Станува збор за таканаречен „дигитален воден жиг“, кој би помогнал да се препознае дали одредена содржина е напишана од човек или генерирана со помош на вештачка интелигенција. Оваа новина доаѓа во време кога сè поголемо внимание се посветува на транспарентноста и потеклото на содржините што се објавуваат на интернет.
Содржина:
Колку е подолг текстот, толку полесно се открива дали е создаден со ВИ
Внатрешните тестирања покажале дека новиот систем може да го препознае невидливиот дигитален воден жиг во околу 80 проценти од текстовите со должина од 200 токени, односно мали делови од текстот што ги обработува вештачката интелигенција. Кај подолгите текстови, со околу 400 токени, успешноста на препознавањето достигнува 95 проценти.
Сепак, системот не е подеднакво ефикасен за сите видови содржини. Најголеми тешкотии има со математичките текстови, бидејќи таму можностите за различно формулирање се ограничени, што го отежнува вметнувањето на невидливите ознаки.
Само 10 проценти заменети зборови ја симнуваат детекцијата од 92 на 66 проценти
Голем предизвик е дополнителното уредување на текстот по неговото генерирање. Замената на зборови со соодветни синоними брзо ја намалува видливоста на водениот жиг за детекторот. Кога се заменува четвртина од зборовите, точноста паѓа на едвај 17 проценти.
Водениот жиг нема да покажува кој корисник го создал текстот
OpenAI нагласува дека водениот жиг нема за цел да го мери човечкиот придонес во текстот, ниту пак утврдува авторски права или сопственост. Технологијата не го поврзува генерираниот текст со конкретен кориснички профил. Компанијата планира да го објави изворниот код за textGrain, за да им овозможи на истражувачите дополнително усовршување на системот.
Коментирај анонимно