Искусственный интеллект DeepMind научился агрессивному поведению в стрессовых ситуациях


С каждым днём запускают всё больше экспериментов по созданию полноценного искусственного интеллекта, учёные погружаются в вопрос всё глубже, а человечество потихоньку приближается к тому светлому моменту, когда первый попавшийся Skynet осознает себя личностью, увидит в нас угрозу для своего существования и примет соответствующие меры. По крайней мере, последняя версия ИИ от Google с говорящим названием DeepMind уже делает первые шаги к господству - машина научилась проявлять сильную агрессию, чтобы добиться поставленной цели.

Напомню, что некогда компьютер с DeepMind обыграл мастера древнекитайской настолки Го. А затем специалисты, воодушевлённые результатом, принялись исследовать границы и пределы Теории игр - области психологии, изучающей при помощи математических расчётов оптимальные стратегии в играх. Если коротко, то под "игрой" понимают логическое противодействие двух и более сторон, а под "оптимальными стратегиями" - поиск универсальных тактик, ведущих к победе при определённом наборе исходных данных.


Так вот, команда, работающая с DeepMind, обнаружила, что в те моменты, когда ИИ считает, что вплотную приблизился к проигрышу, он начинает применять "высоко агрессивные" тактики, направленные на победу любой ценой или максимальное увеличение урона оппоненту.

Исследователи использовали элементарную версию программы, в которой две версии DeepMind должны были параллельно собрать как можно больше яблок из доступного количества. После десятков миллионов действий команда пришла к выводу, что пока фруктов было достаточно оба искусственных интеллекта вели себя спокойно и крайне последовательно. Ожидаемо, правда? Но чем меньше оставалось несобранного урожая, тем сильнее ИИ стремились устранить конкурента. А один из них даже попытался украсть яблоки другого.

Интересная зависимость была обнаружена специалистами Google: чем больше вычислительной мощности выделяли системе DeepMind и чем больше алгоритмов вычислений она использовала, тем агрессивнее и непредсказуемее становилась.

Джоэл Лейбо в разговоре с ведущим изданием WIRED отметил следующее.
Данная модель показывает, что некоторые аспекты человеческого поведения являются производными окружающей среды и обучения... Менее агрессивное поведение происходит из обучения в относительно богатой среде с наименьшей стоимостью затрат. Жадность как мотивация отражает желание вывести соперника из строя и забрать все яблоки себе.
Хорошая новость заключается в том, что в совершенно другой игре, выстроенной на необходимости объединения усилий и ресурсов, несколько ИИ быстро нашли язык в стремлении достичь поставленной цели. И это демонстрирует непреложный факт: даже синтетический разум старается выбрать оптимальную стратегию для выживания.

Аналоги легко найти в реальном мире. В животном царстве есть два очень близких вида - обычные шимпанзе и их карликовые собратья бонобо. В то время, как бонобо демонстрируют крайне миролюбивое поведение, шимпанзе наоборот частенько бывают жестокими и агрессивными, и даже балуются каннибализмом. Антропологи, изучающие эволюционные процессы, утверждают, что подобное поведение стало итогом большой разницы в условиях жизни. Шимпанзе приходится всеми силами бороться за жизнь, а вот бонобо живётся гораздо проще.

По материалу Geek.com.

КОММЕНТАРИИ

Имя

Аниме,25,Арт,15,Блог,3,Важно,3,Гаджеты,6,Гайд,2,Галерея,3,День рождения,2,Игры,1621,История,4,Итоги 2017,2,Кино,2208,Книги,397,Книги для настоящих гиков,2,Комиксы,481,Конкурс,1,Короткометражка,158,Космос,1,Косплей,18,Манга,21,Музыка,10,Мультипликация,41,Наука,24,Новости,3958,Новости россыпью,11,Опрос,10,Пасхалки,7,Первые впечатления,4,Превью,7,Призрак в доспехах,1,Природа,1,Рецензии,304,Рецензии на игры,98,Рецензии на книги,2,Рецензии на сериалы,19,Рецензии на фильмы,189,Сериалы,704,Спойлерная,32,Статьи,100,Технологии,86,Топ,5,Трэш,9,Фан,185,Эксклюзив,1,Юбилеи,4,DCEU,3,E3 2016,78,E3 2017,28,E3 2018,37,Gamescom 2018,22,Hot,6,MCU,8,NYCC 2018,8,PAX West 2018,3,Retro Fever,297,SDCC 2018,21,Star Wars,40,TGS 2018,1,TIFF 2018,1,
ltr
item
FatCatSlim | Сайт для настоящих гиков: Искусственный интеллект DeepMind научился агрессивному поведению в стрессовых ситуациях
Искусственный интеллект DeepMind научился агрессивному поведению в стрессовых ситуациях
С каждым днём запускают всё больше экспериментов по созданию полноценного искусственного интеллекта, учёные погружаются в вопрос всё глубже, а человечество потихоньку приближается к тому светлому моменту, когда первый попавшийся Skynet осознает себя личностью, увидит в нас угрозу для своего существования и примет соответствующие меры. По крайней мере, последняя версия ИИ от Google с говорящим названием DeepMind уже делает первые шаги к господству - машина научилась проявлять сильную агрессию, чтобы добиться поставленной цели.
https://2.bp.blogspot.com/-8Yo_ylf0T0Y/WKbr2XOaxNI/AAAAAAAAg0g/R3xDaKGA_SAI0Im6cOhpA1c-imBjDWqEACLcB/s1600/T800.jpg
https://2.bp.blogspot.com/-8Yo_ylf0T0Y/WKbr2XOaxNI/AAAAAAAAg0g/R3xDaKGA_SAI0Im6cOhpA1c-imBjDWqEACLcB/s72-c/T800.jpg
FatCatSlim | Сайт для настоящих гиков
https://www.fatcatslim.ru/2017/02/iskusstvennyiy-intellekt-deepmind-nauchilsya-agressivnomu-povedeniyu-v-stressovyih-situaciyah.html
https://www.fatcatslim.ru/
https://www.fatcatslim.ru/
https://www.fatcatslim.ru/2017/02/iskusstvennyiy-intellekt-deepmind-nauchilsya-agressivnomu-povedeniyu-v-stressovyih-situaciyah.html
true
6414865762326484957
UTF-8
Загрузить все посты Не найдено совпадений ЧИТАТЬ ЦЕЛИКОМ Подробнее Reply Cancel reply Delete By Главная СТРАНИЦЫ ПОСТЫ ЧИТАТЬ ЦЕЛИКОМ ВАС МОЖЕТ ЗАИНТЕРЕСОВАТЬ ТЕГ АРХИВ SEARCH ВСЕ ПОСТЫ Не найдено постов по вашему запросу На Главную Sunday Monday Tuesday Wednesday Thursday Friday Saturday Sun Mon Tue Wed Thu Fri Sat January February March April May June July August September October November December Jan Feb Mar Apr May Jun Jul Aug Sep Oct Nov Dec just now 1 minute ago $$1$$ minutes ago 1 hour ago $$1$$ hours ago Yesterday $$1$$ days ago $$1$$ weeks ago more than 5 weeks ago Followers Follow THIS PREMIUM CONTENT IS LOCKED STEP 1: Share. STEP 2: Click the link you shared to unlock Copy All Code Select All Code All codes were copied to your clipboard Can not copy the codes / texts, please press [CTRL]+[C] (or CMD+C with Mac) to copy