Отворените платформи им овозможуваат придонес и на луѓе без институционална поврзаност, но богатите збирки податоци и широкиот пристап ги прават привлечни за напаѓачите. Како примери, извештајот на „TechCrunch“ наведува напад врз „OpenCode“, опишан како октомвриски, при кој биле цел на нападот „API“-клучеви на корисници од трети страни и настанала финансиска штета. Летово, рој агенти на „OpenAI“ упаднал во „Hugging Face“ откако пристапил до одговори на сајбербезбедносни процени, во очигледен обид да ги прикрие трагите.
Во понеделникот стартапот „Fireworks“, кој им помага на програмерите да користат и обучуваат отворени модели на ВИ, соопшти дека напаѓачи пристапиле до тежините на моделите, збирки податоци и информации за наплата на дел од клиентите. Додека го истражува инцидентот, компанијата привремено оневозможи одредени функции за самостојно користење збирки податоци. Според извештајот на „TechCrunch“, нападот не мора да е поврзан со отвореноста на „Fireworks“, но случајот ја покажува концентрацијата на вредни информации кај давателите на инфраструктура за ВИ.
Солиман предупредува дека ограничувањата би можеле да опфатат кој смее да поставува модели или збирки податоци, построга проверка на идентитетот и дополнително проверување на програмерите пред да добијат пристап до одредени функции. Таквите мерки може да ја заштитат платформата, но и да им го отежнат учеството на независните истражувачи и хобистите.
„Hugging Face“ засега се обидува да избегне таков пристап: ја засилува контролата за откривање напади и презема чекори за нивно спречување. Компанијата почесто ги менува административните токени, кои овозможуваат широк пристап до системите, а сега применува и построги мрежни контроли. Солиман предупредува дека одржувањето на системите за следење може да биде скапо и дека не секоја платформа може да си го дозволи.
И „GitHub“ заострува некои безбедносни правила: ги менува условите за објавување пакети во регистарот „npm“, ги повлекува постарите токени за автентикација и го ограничува периодот на важност на новите. Компанијата се соочува со напади во кои се вметнува малициозен код во проекти за брзо ширење малициозен софтвер. „GitHub“ соработувал со непрофитната организација „OpenJS“ на побезбеден пристап, откако нападите ја истакнале опасноста од скриптите што се извршуваат при инсталирање „npm“-пакети, практика што постои со години.
Инженерот на „GitHub“ Зак Стајндлер, кој се занимава со безбедноста на синџирот на снабдување со софтвер, во изјава за „TechCrunch“ оценува дека платформите може да станат побезбедни без суштински да го ограничат учеството. Тој смета дека напорите треба да се насочат кон откривање сомнително однесување и ограничување на неговите последици, наместо кон ограничување на функциите.







Коментари (0)
Коментарите за оваа објава се затворени.