Истражувачите велат дека „FlashProve“ би можел да помогне во откривање тајна замена на модел од лабораторијата што го изградила и го управува. Како можни мотиви за замена ги наведуваат намалување на трошоците со поевтин модел или прикажување подобри резултати со поскап модел. Системот би можел да се користи и за проверка на тврдења дека одредена задача ја извршил напреден модел.
За системот да работи, лабораториите за вештачка интелигенција треба да објават „отпечаток“ за секој модел што го пуштаат. Отпечатокот би се поврзувал со конкретни излези и би се проверувал криптографски, без да ги открива тежините на моделот, односно внатрешните вредности што го определуваат неговото однесување. Системот е замислен да биде лесен, така што проверката би можела да се извршува и на локален уред.
Истражувачите објавија детална техничка спецификација и работен код за различни делови од системот на „GitHub“, под лиценца со отворен код. Истражувањето продолжува, а нема планови „FlashProve“ да биде применет во „Anthropic“ или во друга лабораторија.






Коментари (0)
Коментарите за оваа објава се затворени.