Најважно
350 вести · 24 ч.
Берово 6°
Најважно
Локални вестиДемокритика
Редакција: Македонија.мкИспрати тема

Мени на Македонија.мк

Редакција:Македонија.мкНационални и локални вести
Испрати тема

„ChatGPT“ ќе суспендира сметки на 24 часа за барања што сексуализираат деца

Фотографија од настанот · TechCrunch
  • „ChatGPT“ веќе ги блокира материјалите со сексуална злоупотреба на деца и барањата поврзани со нив.
  • Скенлан независно оценувал пробна примена на пораки за одвраќање од таквото однесување.
  • Таа доделува оценка што им служи како насока на лицата задолжени за проверка на содржините.

„OpenAI“ денеска најави дека „ChatGPT“ ќе прикажува предупредувања и ќе суспендира сметки на 24 часа кога корисниците ќе се обидат да добијат содржини што сексуализираат деца. Мерката е дел од нов пакет за спречување и откривање материјали со сексуална злоупотреба на деца, кој вклучува и алатка за откривање такви слики, вклучително и создадени со вештачка интелигенција.

„ChatGPT“ веќе ги блокира материјалите со сексуална злоупотреба на деца и барањата поврзани со нив. Со новите мерки, корисниците ќе бидат упатувани и кон специјализирана поддршка за прекинување на штетното однесување. Според „OpenAI“, повторените прекршувања може да доведат до трајно отстранување на сметката.

Пораките и насоките за ваквото однесување се подготвени со организации и истражувачи, меѓу кои „Protect Children“, Фондацијата Луси Фејтфул и Џоел Скенлан од Универзитетот во Тасманија. Скенлан независно оценувал пробна примена на пораки за одвраќање од таквото однесување.

За откривање слики со сексуална злоупотреба на деца, „OpenAI“ претстави нов класификатор, односно алатка што бара визуелни знаци на злоупотреба и во слики што претходно не ги видела. Таа доделува оценка што им служи како насока на лицата задолжени за проверка на содржините. Избрани компании добиваат бесплатен пристап преку програмскиот интерфејс на „OpenAI“, познат како „API“.

Класификаторот е развиен со Националниот центар за исчезнати и експлоатирани деца („NCMEC“), а „OpenAI“ соработува со „Tech Coalition“ и „ROOST“ за да овозможи пристап до него. Според компанијата, во раните тестирања со партнери алатката означувала 48 проценти помалку слики за проверка, а откривала ист број слики со злоупотреба, со што се намалувала работата на проверувачите. Компанијата наведува и дека означените слики имале двојно поголема веројатност навистина да содржат злоупотреба.

„OpenAI“ објавува и насоки за програмерите што ги користат нејзините алатки, со цел да спречуваат и откриваат вакви материјали и да им помогнат на корисниците да ги пријавуваат. Според компанијата, при раното тестирање насоките им помогнале на повеќе програмери да воведат алатки за безбедност на децата и да се регистрираат за пријавување материјали до „NCMEC“.

За органите за спроведување на законот што работат на заштита на децата, компанијата обезбедува наменски додатоци, истражни алатки и сложена анализа на податоци со помош на вештачка интелигенција. Со пристапот управуваат администратори на програмата. Истражителите добиваат и обука и практичен водич за користење на вештачката интелигенција.

Мерките доаѓаат во услови на загриженост за безбедноста на алатките со вештачка интелигенција. Против „OpenAI“ се поднесени повеќе тужби со обвинувања дека нејзината технологија им наштетила на корисници, особено на деца. Непрофитната организација „Common Sense Media“ ја оцени технологијата на компанијата како неприфатлив ризик за тинејџерите. Други четботови, меѓу кои „Grok“, биле користени за создавање сексуализирани слики без согласност, вклучително и слики на деца.

Во изминатите 12 месеци „OpenAI“ објави безбедносен план, ги измени правилата за содржини за да забрани несоодветни материјали и ги приспособи моделите со цел да спречи генерирање штетни содржини. Компанијата пушти и посебна верзија на „ChatGPT“ за тинејџери.

Имате дополнителна информација или забелешка за текстот? Контактирајте ја редакцијата.

Коментари (0)

Коментарите за оваа објава се затворени.