Ветераны ИИ-отрасли призвали возложить ответственность за вред от ИИ-продуктов на их разработчиков



Высокопроизводительные системы искусственного интеллекта (ИИ) угрожают социальной стабильности, а ИИ-компании должны нести ответственность за вред, причинённый их продуктами – об этом заявила группа отраслевых экспертов, включая основоположников соответствующих технологий, лауреатов премии Тьюринга Йошуа Бенжио (Youshua Bengio) и Джеффри Хинтона (Geoffrey Hinton), пишет во вторник The Guardian.

«Пора уже задуматься по поводу передовых ИИ-систем, — заявил профессор компьютерных наук Стюарт Расселл (Stuart Russell) из Калифорнийского университета в Беркли. — Это не игрушки. Повышать возможности таких систем прежде, чем понять, как обезопасить их, в высшей степени безрассудно».

По словам эксперта, за магазинами по продаже бутербродов надзор жёстче, чем за ИИ-компаниями.

Специалисты призвали правительства принять ряд мер, включая:

выделение третьей части всех правительственных средств, направленных на ИИ-исследования и разработки, а также трети всех денег компаний, зарезервированных на НИОКР, для обеспечения безопасного и этичного использования ИИ-систем;
предоставление доступа независимым аудиторам в ИИ-лаборатории;
введение системы выдачи лицензий на создание передовых [ИИ]-моделей;
принятие ИИ-фирмами специальных мер безопасности на случай обнаружения опасных возможностей в их моделях;
возложение ответственности на технологические компании за ущерб от их ИИ-систем, который можно было предвидеть и предотвратить.

Напомним, в мае группа ведущих инженеров, глав компаний и учёных опубликовали предупреждение об экзистенциальной угрозе технологий искусственного интеллекта (ИИ) для человечества.

Источник https://d-russia.ru/veterany-ii-otr...red-ot-ii-produktov-na-ih-razrabotchikov.html