Затворите почнаа да користат вештачка интелигенција за да предвидат дали затворениците ќе извршат нови кривични дела во иднина

Содржина:

• Пет нивоа на безбедност досега ги одредуваа искусни вработени и социјални работници
• „Recidiviz“ почнал како проект за податоци во рамките на Гугл
• Во декември пилот-програма во неколку машки затвори
• Една безбедносна ознака решава ќелија, двор и пристап до ресурси
• „ProPublica“ во Луизијана откри вродена расна и социоекономска пристрасност
• Слеп 70-годишен старец во инвалидска количка бил означен како ризик
• Мичиген тврди дека алгоритмот нема да одлучува за условен отпуст

Пет нивоа на безбедност досега ги одредуваа искусни вработени и социјални работници

Во Мичиген, затворените лица се делат според безбедносна проценка. Во минатото, овие проценки ги вршеше специјална стручна комисија назначена од управникот на секој затвор.
Сега државата планира овие судбоносни одлуки да ги префрли — или барем значително да ги базира — врз софтвер развиен од технолошката непрофитна организација „Recidiviz“.

„Recidiviz“ почнал како проект за податоци во рамките на Гугл

Идејата била да се открие како модерната технологија може да ги стандардизира податоците во кривичното правосудство.
Нивната софтверска платформа интегрирана со вештачка интелигенција треба да препознава кои затвореници ги исполнуваат условите за рехабилитациски програми, прераспределба во полесни одделенија или условен отпуст, како и да координира пристап до вработување по издржувањето на казната.

Во декември пилот-програма во неколку машки затвори

Во официјалното соопштение за медиумите, MDOC наведува дека софтверот ќе започне тестирање во ограничен дел од системот.
Државните власти тврдат дека алатката за вештачка интелигенција се очекува „да ја подобри способноста на затворскиот систем за точно предвидување на ризикот од идно насилство кај затворениците за приближно 30 проценти“ — иако останува целосно нејасно врз база на какви методологии е пресметана оваа бројка.

Една безбедносна ознака решава ќелија, двор и пристап до ресурси

За самите затвореници, ваквата класификација не е административна формалност. Таа одредува со какви криминалци ќе го делат просторот, колку часови дневно ќе смеат да излегуваат на чист воздух и до какви програми и услуги ќе имаат пристап за време на целата затворска казна.
Затоа спорот не е само технолошки. Прашањето е кој треба да има последен збор кога одлуката директно го менува секојдневието на човек зад решетки.

„ProPublica“ во Луизијана откри вродена расна и социоекономска пристрасност

Многумина правни експерти и активисти за човекови права алармираат за сериозните ризици од ваквата автоматизација. Главниот проблем е потеклото на податоците со кои се тренира вештачката интелигенција.
Истражувањето на реномираната истражувачка мрежа „ProPublica“ за сличен систем за анализа на ризик што беше воведен во сојузната држава Луизијана откри дека алгоритмите не донеле повеќе праведност. Напротив, затворскиот систем станал уште посуров кон оние што искрено работеле на сопствената рехабилитација.

Слеп 70-годишен старец во инвалидска количка бил означен како ризик

Во еден шокантен случај документиран од „ProPublica“, човек со беспрекорно дисциплинарно досие бил класифициран од вештачката интелигенција како „умерен ризик за повторување на криминал“.
Таа етикета автоматски значела укинување на секое право за предвремено пуштање на слобода.

Мичиген тврди дека алгоритмот нема да одлучува за условен отпуст

Надлежните велат дека системот засега ќе служи само за сместување во затворскиот систем, а не за носење одлуки за излегување на слобода.
Но критичарите предупредуваат дека препуштањето на човечките судбини во рацете на ладни алгоритми може само дополнително да ја продлабочи затворската криза.