OpenAI го лансира ChatGPT Health со апсурдно предупредување: да не се користи за дијагноза или лекување

Содржина:

• Истражувањата потврдуваат: AI чатботите често даваат опасни, неточни совети за здравјето
• OpenAI го воведува ChatGPT Health: персонализирано здравствено искуство преку внесување медицински досиеја
• ChatGPT Health е со цел да им помогне на луѓето, но предупредувањето се игнорира: корисниците ќе го користат токму за дијагноза и терапија
• Адвокатите и докторите се загрижени – ChatGPT ги претвора сите во „аматерски стручњаци“ по здравје и право
• OpenAI ги поттикнува корисниците да ги споделат најчувствителните здравствени податоци, иако нема законска заштита
• Примерите се множат: AI чатботите масовно произведуваат „дијагнози“ и имитираат доктори
• Низата скандали и пропусти во заштита на приватноста ја прават ситуацијата алармантна
• Експертите предупредуваат: ChatGPT може да ги смени правилата и да ја изложи вашата приватност без никаква регулатива или закон
• Постојат загрижености дека најчувствителните податоци можат да завршат кај полицијата, без знаење на корисникот: Како реагира OpenAI?

Истражувањата потврдуваат: AI чатботите често даваат опасни, неточни совети за здравјето

Во последна истрага на Guardian, на пример, се открива дека Google AI Overview, која ја надополнува поголемиот дел од пребарувачките резултати, често нуди неточни здравствени информации кои можат да доведат до сериозен ризик доколку се следат.

OpenAI го воведува ChatGPT Health: персонализирано здравствено искуство преку внесување медицински досиеја

И покрај повторените предупредувања од експертите дека ваквиот совет од AI не треба да се смета за сигурен, OpenAI го претстави ChatGPT Health – нова функција што ги внесува вашите медицински досиеја за да генерира „повеќе релевантни и корисни“ одговори. Новата услуга е создадена „во тесна соработка со лекари“ и базирана на „силни мерки за приватност, безбедност и контрола на податоци“. Сепак, компанијата официјално нагласува: ChatGPT Health е „поддршка, а не замена за медицинска грижа“ и со себе носи апсурдно предупредување – „не е наменет за дијагноза или третман“.

ChatGPT Health е со цел да им помогне на луѓето, но предупредувањето се игнорира: корисниците ќе го користат токму за дијагноза и терапија

„ChatGPT Health им помага на луѓето да преземат поактивна улога во сфаќањето и управувањето со своето здравје и благосостојба – додека ја поддржува, а не ја заменува, грижата од лекарите“, стои на веб-страницата на компанијата. Но, реалноста е дека корисниците сигурно ќе ја користат токму за совети за кои OpenAI предупредува, што може да предизвика нови проблеми и срам за компанијата.

Адвокатите и докторите се загрижени – ChatGPT ги претвора сите во „аматерски стручњаци“ по здравје и право

Како што известува Business Insider, ChatGPT ги охрабрува луѓето да се чувствуваат како „аматерски адвокати и доктори“, што ги вознемирува професионалците. Адвокатот од Мајами, Џонатан Фрејдин, објаснува: „Гледаме многу повеќе јавувања од луѓе кои се убедени дека имаат случај затоа што ChatGPT или Gemini им кажале дека докторите или медицинските сестри згрешиле во повеќе точки. Иако тоа може да биде точно, тоа не значи дека има реален правен случај.“

OpenAI ги поттикнува корисниците да ги споделат најчувствителните здравствени податоци, иако нема законска заштита

Корисниците се подготвени да ѝ препуштат на ChatGPT Health свои целосни здравствени досиеја, со сета своја исклучително приватна и чувствителна содржина – одлука што сега ја поттикнува и самата OpenAI, иако закони како што е HIPAA не важат за вакви комерцијални AI продукти.

Примерите се множат: AI чатботите масовно произведуваат „дијагнози“ и имитираат доктори

Бизнисменот Елон Маск минатата година ги охрабруваше луѓето да ги прикачат своите медицински податоци во неговиот конкурент на ChatGPT, Grok, по што многу корисници добиле лажни дијагнози откако споделиле рентген снимки и PET скенови.

Низата скандали и пропусти во заштита на приватноста ја прават ситуацијата алармантна

Историјата на AI индустријата е обременета со пропусти во приватноста и значајни протекувања на податоци, што дополнително ги зголемува овие ризици. „Новите AI здравствени алатки ветуваат поголема моќ за пациентите и подобро здравје, но податоците за здравјето се најчувствителните информации што луѓето можат да ги споделат и тие мора да бидат заштитени“, вели Ендрју Крофорд, висок советник во Center for Democracy and Technology, за BBC.

Експертите предупредуваат: ChatGPT може да ги смени правилата и да ја изложи вашата приватност без никаква регулатива или закон

„Особено што OpenAI разгледува модели со рекламирање, мора строго да се делат овие здравствени податоци од сè што ChatGPT памети од други разговори. Затоа што секоја компанија сама ги поставува правилата како да се собираат, користат, споделуваат и чуваат овие податоци, може да се случи недоволна заштита и овие информации да бидат во реална опасност“, додава Крофорд. „ChatGPT е врзан само со своите сопствени обврски и ветувања, и без било каква реална регулатива или закон, ChatGPT може да ги менува условите на користење во секое време“, изјави Сара Геогеган, сениор советник при Electronic Privacy Information Center, за The Record.

Постојат загрижености дека најчувствителните податоци можат да завршат кај полицијата, без знаење на корисникот: Како реагира OpenAI?

Покрај сè друго, се појавува и прашањето што се случува со особено чувствителни информации, како што е репродуктивното здравје, кога ќе ги побара полицијата. „Како OpenAI реагира на барања од (полицијата)? Дали едноставно ги предава информациите? Дали корисникот воопшто е информиран?“, прашува Крофорд за The Record. „Постојат многу прашања на кои сè уште немам јасни одговори“, додава тој.