Один из отцов-основателей глубокого обучения искусственного интеллекта Йошуа Бенджио заявил о том, что он открывает собственную компанию LawZero для контроля над искусственным интеллектом.
Бенджио – один из самых известных исследователей в области глубокого обучения. Его, наряду с Хинтоном и Лекуном, обычно называют первооткрывателем и отцом Deep Learning. В 2018 он получил премию Тьюринга, а еще он – один из авторов первой статьи про механизм внимания.
Название LawZero – это в честь нулевого закона робототехники Айзека Азимова: «Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред».
Бенджио возглавит команду из более чем 15 исследователей, и разрабатывать они все будут так называемого Scientist AI, которая будет не агентом, а выступать в качестве надсмотрщика для агентов. Цель состоит в том, чтобы эта модель использовалась в тандеме с ИИ, наблюдала за ним и сводила к минимуму потенциальный вред.