Најважно
347 вести · 24 ч.
Берово 8°
Најважно
Локални вестиДемокритика
Редакција: Македонија.мкИспрати тема

Мени на Македонија.мк

Редакција:Македонија.мкНационални и локални вести
Испрати тема

Автор на безбедносни извештаи во „OpenAI“ заминува со критика за културата во компанијата

Илустративна фотографија · Фото: Bernd 📷 Dittrich / Unsplash · Лиценца
  • Дејвид Робинсон заминува од „OpenAI“ по три и пол години.
  • Робинсон бара повеќеслојна заштита при развојот на напредна вештачка интелигенција.
  • „OpenAI“ вели дека ги подобрува мерките за безбедност на моделите.

Дејвид Робинсон, кој го водел пишувањето на безбедносните извештаи при големите промоции на производи на „OpenAI“, заминува од компанијата по три и пол години. Во есеј во „The Atlantic“, тој го образложи заминувањето со оценката дека културата во компанијата е нарушена.

Според Робинсон, пристапот на „OpenAI“ со обиди и грешки подразбира откривање проблеми и дополнително подобрување на заштитните механизми. Тој предупредува дека таквиот начин на работа неизбежно носи периодични неуспеси, чиј обем расте со способностите на системите за вештачка интелигенција.

Наместо тоа, Робинсон смета дека компаниите што ги развиваат најнапредните системи треба да работат со повеќеслојна заштита и внимателно планирање, како нуклеарни централи или прометни аеродроми. Побара и посилни надворешни поттикнувања за безбедност, наведувајќи дека брзото темпо на работа оставало малку простор за суштински промени.

Портпаролот на „OpenAI“, Дру Пусатери, одговори дека компанијата ги подобрува безбедносните мерки и, кога е потребно, ја паузира обуката или го одложува пуштањето на моделите. Тој наведе зајакнување на безбедноста при истражување и тестирање, проширување на соработката со надворешни оценувачи и подобро следење во реално време за порано откривање загрижувачко однесување.

Имате дополнителна информација или забелешка за текстот? Контактирајте ја редакцијата.

Коментари (0)

Коментарите за оваа објава се затворени.