Според Робинсон, пристапот на „OpenAI“ со обиди и грешки подразбира откривање проблеми и дополнително подобрување на заштитните механизми. Тој предупредува дека таквиот начин на работа неизбежно носи периодични неуспеси, чиј обем расте со способностите на системите за вештачка интелигенција.
Наместо тоа, Робинсон смета дека компаниите што ги развиваат најнапредните системи треба да работат со повеќеслојна заштита и внимателно планирање, како нуклеарни централи или прометни аеродроми. Побара и посилни надворешни поттикнувања за безбедност, наведувајќи дека брзото темпо на работа оставало малку простор за суштински промени.
Портпаролот на „OpenAI“, Дру Пусатери, одговори дека компанијата ги подобрува безбедносните мерки и, кога е потребно, ја паузира обуката или го одложува пуштањето на моделите. Тој наведе зајакнување на безбедноста при истражување и тестирање, проширување на соработката со надворешни оценувачи и подобро следење во реално време за порано откривање загрижувачко однесување.






Коментари (0)
Коментарите за оваа објава се затворени.