„ChatGPT“ веќе ги блокира материјалите со сексуална злоупотреба на деца и барањата поврзани со нив. Со новите мерки, корисниците ќе бидат упатувани и кон специјализирана поддршка за прекинување на штетното однесување. Според „OpenAI“, повторените прекршувања може да доведат до трајно отстранување на сметката.
Пораките и насоките за ваквото однесување се подготвени со организации и истражувачи, меѓу кои „Protect Children“, Фондацијата Луси Фејтфул и Џоел Скенлан од Универзитетот во Тасманија. Скенлан независно оценувал пробна примена на пораки за одвраќање од таквото однесување.
За откривање слики со сексуална злоупотреба на деца, „OpenAI“ претстави нов класификатор, односно алатка што бара визуелни знаци на злоупотреба и во слики што претходно не ги видела. Таа доделува оценка што им служи како насока на лицата задолжени за проверка на содржините. Избрани компании добиваат бесплатен пристап преку програмскиот интерфејс на „OpenAI“, познат како „API“.
Класификаторот е развиен со Националниот центар за исчезнати и експлоатирани деца („NCMEC“), а „OpenAI“ соработува со „Tech Coalition“ и „ROOST“ за да овозможи пристап до него. Според компанијата, во раните тестирања со партнери алатката означувала 48 проценти помалку слики за проверка, а откривала ист број слики со злоупотреба, со што се намалувала работата на проверувачите. Компанијата наведува и дека означените слики имале двојно поголема веројатност навистина да содржат злоупотреба.
„OpenAI“ објавува и насоки за програмерите што ги користат нејзините алатки, со цел да спречуваат и откриваат вакви материјали и да им помогнат на корисниците да ги пријавуваат. Според компанијата, при раното тестирање насоките им помогнале на повеќе програмери да воведат алатки за безбедност на децата и да се регистрираат за пријавување материјали до „NCMEC“.
За органите за спроведување на законот што работат на заштита на децата, компанијата обезбедува наменски додатоци, истражни алатки и сложена анализа на податоци со помош на вештачка интелигенција. Со пристапот управуваат администратори на програмата. Истражителите добиваат и обука и практичен водич за користење на вештачката интелигенција.
Мерките доаѓаат во услови на загриженост за безбедноста на алатките со вештачка интелигенција. Против „OpenAI“ се поднесени повеќе тужби со обвинувања дека нејзината технологија им наштетила на корисници, особено на деца. Непрофитната организација „Common Sense Media“ ја оцени технологијата на компанијата како неприфатлив ризик за тинејџерите. Други четботови, меѓу кои „Grok“, биле користени за создавање сексуализирани слики без согласност, вклучително и слики на деца.
Во изминатите 12 месеци „OpenAI“ објави безбедносен план, ги измени правилата за содржини за да забрани несоодветни материјали и ги приспособи моделите со цел да спречи генерирање штетни содржини. Компанијата пушти и посебна верзија на „ChatGPT“ за тинејџери.







Коментари (0)
Коментарите за оваа објава се затворени.