175 вести · 24 ч.
Берово 0°
Локални вестиДемокритика
Редакција: Македонија.мкИспрати тема

Мени на Македонија.мк

Редакција:Македонија.мкНационални и локални вести
Испрати тема

„Anthropic“ работи на систем за проверка кој ВИ-модел создал одговор

Илустративна фотографија · Фото: Juanjo Jaramillo / Unsplash · Лиценца

„Anthropic“ работи на отворен истражувачки систем наречен „FlashProve“, наменет криптографски да потврдува од кој ВИ-модел потекнува одреден одговор. Системот треба да им овозможи на корисниците да проверат дали го добиле од моделот што мислат дека го користат.

Истражувачите велат дека „FlashProve“ би можел да помогне во откривање тајна замена на модел од лабораторијата што го изградила и го управува. Како можни мотиви за замена ги наведуваат намалување на трошоците со поевтин модел или прикажување подобри резултати со поскап модел. Системот би можел да се користи и за проверка на тврдења дека одредена задача ја извршил напреден модел.

За системот да работи, лабораториите за вештачка интелигенција треба да објават „отпечаток“ за секој модел што го пуштаат. Отпечатокот би се поврзувал со конкретни излези и би се проверувал криптографски, без да ги открива тежините на моделот, односно внатрешните вредности што го определуваат неговото однесување. Системот е замислен да биде лесен, така што проверката би можела да се извршува и на локален уред.

Истражувачите објавија детална техничка спецификација и работен код за различни делови од системот на „GitHub“, под лиценца со отворен код. Истражувањето продолжува, а нема планови „FlashProve“ да биде применет во „Anthropic“ или во друга лабораторија.

Имате дополнителна информација или забелешка за текстот? Контактирајте ја редакцијата.

Коментари (0)

Коментарите за оваа објава се затворени.