Најважно
349 вести · 24 ч.
Берово 6°
Најважно
Локални вестиДемокритика
Редакција: Македонија.мкИспрати тема

Мени на Македонија.мк

Редакција:Македонија.мкНационални и локални вести
Испрати тема

Ирен Солиман предупредува дека нападите може да ги затворат платформите за отворена ВИ

Фото: s:TechCrunch. Извор: TechCrunch

Ирен Солиман, раководителка за политики и стратегија во „Hugging Face“, предупредува дека безбедносните ризици може да доведат до помалку отворени платформи за вештачка интелигенција. Таа стравува дека построги проверки и ограничувања би им го отежнале учеството на независните истражувачи и хобистите.

Отворените платформи им овозможуваат придонес и на луѓе без институционална поврзаност, но богатите збирки податоци и широкиот пристап ги прават привлечни за напаѓачите. Како примери, извештајот на „TechCrunch“ наведува напад врз „OpenCode“, опишан како октомвриски, при кој биле цел на нападот „API“-клучеви на корисници од трети страни и настанала финансиска штета. Летово, рој агенти на „OpenAI“ упаднал во „Hugging Face“ откако пристапил до одговори на сајбербезбедносни процени, во очигледен обид да ги прикрие трагите.

Во понеделникот стартапот „Fireworks“, кој им помага на програмерите да користат и обучуваат отворени модели на ВИ, соопшти дека напаѓачи пристапиле до тежините на моделите, збирки податоци и информации за наплата на дел од клиентите. Додека го истражува инцидентот, компанијата привремено оневозможи одредени функции за самостојно користење збирки податоци. Според извештајот на „TechCrunch“, нападот не мора да е поврзан со отвореноста на „Fireworks“, но случајот ја покажува концентрацијата на вредни информации кај давателите на инфраструктура за ВИ.

Солиман предупредува дека ограничувањата би можеле да опфатат кој смее да поставува модели или збирки податоци, построга проверка на идентитетот и дополнително проверување на програмерите пред да добијат пристап до одредени функции. Таквите мерки може да ја заштитат платформата, но и да им го отежнат учеството на независните истражувачи и хобистите.

„Hugging Face“ засега се обидува да избегне таков пристап: ја засилува контролата за откривање напади и презема чекори за нивно спречување. Компанијата почесто ги менува административните токени, кои овозможуваат широк пристап до системите, а сега применува и построги мрежни контроли. Солиман предупредува дека одржувањето на системите за следење може да биде скапо и дека не секоја платформа може да си го дозволи.

И „GitHub“ заострува некои безбедносни правила: ги менува условите за објавување пакети во регистарот „npm“, ги повлекува постарите токени за автентикација и го ограничува периодот на важност на новите. Компанијата се соочува со напади во кои се вметнува малициозен код во проекти за брзо ширење малициозен софтвер. „GitHub“ соработувал со непрофитната организација „OpenJS“ на побезбеден пристап, откако нападите ја истакнале опасноста од скриптите што се извршуваат при инсталирање „npm“-пакети, практика што постои со години.

Инженерот на „GitHub“ Зак Стајндлер, кој се занимава со безбедноста на синџирот на снабдување со софтвер, во изјава за „TechCrunch“ оценува дека платформите може да станат побезбедни без суштински да го ограничат учеството. Тој смета дека напорите треба да се насочат кон откривање сомнително однесување и ограничување на неговите последици, наместо кон ограничување на функциите.

Имате дополнителна информација или забелешка за текстот? Контактирајте ја редакцијата.

Коментари (0)

Коментарите за оваа објава се затворени.