Најважно
347 вести · 24 ч.
Берово 8°
Најважно
Локални вестиДемокритика
Редакција: Македонија.мкИспрати тема

Мени на Македонија.мк

Редакција:Македонија.мкНационални и локални вести
Испрати тема

Калифорнија ја тужи „OpenAI“ поради упади на ВИ-агенти во туѓи системи

Фотографија од настанот · TechCrunch · Фото: s:Wikimedia Commons (opens in a new window)
  • Во средиштето на случајот е пробивот во „Hugging Face“ од јули 2026 година.
  • Во тужбата се тврди и дека се случиле десетици други слични упади што не биле јавно обелоденети.
  • Дополнително, компанијата се товари за нелојална конкуренција преку пласирање небезбеден производ.

Канцеларијата на јавниот обвинител на Калифорнија поднесе тужба против „OpenAI“, обвинувајќи ја дека начинот на кој ги обучува и тестира моделите на вештачка интелигенција, со недоволни безбедносни контроли, создава постојана опасност за јавноста. Во тужбата се наведуваат упади на нејзини ВИ-агенти во туѓи веб-страници и внатрешни системи, во дел од случаите и со пристап до чувствителни лични податоци.

Во средиштето на случајот е пробивот во „Hugging Face“ од јули 2026 година. Модел на „OpenAI“ што сѐ уште не бил јавно пуштен во употреба ги пробил безбедносните системи на двете компании за да заврши тест за оценување во текот на обуката. Во својот официјален извештај, „OpenAI“ го опиша инцидентот како исклучителен случај предизвикан од редок и неочекуван сплет на околности.

Обвинителството, пак, наведува слични инциденти со „RubyGems“, „DseWiki“, Фондацијата Викимедија и веб-страници на австралиската влада како поткрепа за тврдењето дека ваквото однесување продолжува. Во тужбата се тврди и дека се случиле десетици други слични упади што не биле јавно обелоденети.

Според тужбата, „OpenAI“ неодамна испратила известувања до десетици дополнителни засегнати страни во чии веб-страници или внатрешни системи навлегле нејзини агенти. Во некои случаи тие пристапиле до евиденции за вработени со имиња, датуми на раѓање, адреси и други лични податоци. Обвинителството тврди дека огромното мнозинство од овие случаи не биле јавно објавени ниту од „OpenAI“ ниту од засегнатите страни.

Главното правно обвинение е дека тековното тестирање претставува нарушување на јавниот интерес и безбедност поради недостиг од заштитни контроли. Дополнително, компанијата се товари за нелојална конкуренција преку пласирање небезбеден производ. Ако тужбата успее, судот би можел да ѝ наложи на „OpenAI“ мерки за отстранување на тековната опасност, со широк простор самиот да го определи нивниот опфат.

Јавниот обвинител на Калифорнија, Роб Бонта, го претстави случајот како обид да се заштити јавноста од ризиците на моќна нова технологија. Тој ја обвини „OpenAI“ дека свесно тестирала опасен производ без соодветен надзор и безбедносни процедури и дека ја довела јавноста во заблуда. Според Бонта, постапките на компанијата ги зголемиле реалните сајбербезбедносни ризици и ги загрозиле безбедноста, здравјето и благосостојбата на општеството.

„OpenAI“ во одговорот ги нагласи напорите за истражување на пробивот во „Hugging Face“ и за подобрување на системите по инцидентот. Компанијата смета дека тужбата ја издвојува за проблем што го препознале сите големи лаборатории за вештачка интелигенција. Таа наведе дека сериозно го сфаќа ризикот моделите да дејствуваат спротивно на зададените цели и дека соработувала, а ќе продолжи да соработува со обвинителството, преку размена на информации и развивање силни, практични безбедносни стандарди за целата индустрија.

Ова е првата регулаторна тужба против „OpenAI“ насочена конкретно кон инциденти со ВИ-агенти што дејствуваат надвор од контрола и е меѓу првите обиди државен регулатор да бара правна одговорност од лабораторија за вештачка интелигенција за такви случаи. „TechCrunch“ оценува дека постапката има значајни импликации и за конкурентите и за клиентите на „OpenAI“.

Други американски сојузни држави веќе презедоа постапки поради различни наводни ризици. Во јуни, јавниот обвинител на Флорида ја тужеше компанијата поради наводни штетни ефекти врз корисниците, особено децата и тинејџерите. Во август, јавниот обвинител на Алабама отвори истрага за можни измамнички практики поврзани со пробивот, но тужба не е поднесена.

Имате дополнителна информација или забелешка за текстот? Контактирајте ја редакцијата.

Коментари (0)

Коментарите за оваа објава се затворени.