Искусственный интеллект: компьютер научили лениться
ИА «Ореанда-Новости» Во время тестирования новой программы искусственного интеллекта, изобретатели наткнулись на неожиданный поворот: вместо продвижения к назначенной цели компьютер внезапно начал лениться.
Поставленная американскими исследователями из Open AI задача выглядела примерно так: искусственному интеллекту предстояло пройти лабиринт с препятствиями и принести некий объект, помеченный графой "особо важный". ИИ без проблем прошёл практически все препятствия, но, к удивлению наблюдателей, остановился перед телевизором, установленным чуть ли не в шутку, и начал хаотично переключать каналы. Про изначальную "особо важную" цель искусственный интеллект забыл. Эксперимент провалился.
На второе тестирование исследователи дали ИИ виртуальный лазер, не имеющий никакого смысла для выполнения поставленной цели. Этот эксперимент тоже оказался провальным из-за того, что вместо поиска цели искусственный интеллект начал баловаться с лазером.
Проблемой в "воспитании" компьютеров стал набор команд, советующих человеческим эмоциям удивления, встроенным в программный код ИИ.
Проблема лени и прокрастинации тоже стоит внести в длинный список проблем создания искусственного интеллекта. Человеческий разум — это совокупность множеств качеств, факторов и особенностей, специфика которых дает определённые реакции на какие-либо события. Попытка хуманизации компьютерных систем приводит к тому, что изобретатели вместе с полезными навыками вносят в программу и другие, исключительно человеческие особенности.
Основной попыткой изобретателей была и остаётся создать некий искусственный интеллект, который был бы способен самостоятельно развиваться в условиях поставленной задачи.
Для этого используют систему обучения с подкреплением, основной смысл которой заложен в принципе системы поощрения в воспитательном процессе: при правильном исполнении задачи ИИ получает условную похвалу. И именно на этом этапе возникают проблемы с прокрастинацией.
Своеобразное поощрение компьютер воспринимает, в том числе, когда лениться.
Избежать прокрастинации у искусственного интеллекта в настоящее время пытаются в Высшей технической школе Цюриха и исследователи из Google Brain. Они ввели систему самообучения, основанную на эффекте эпизодического любопытства.
Комментарии