Исследователи из лаборатории DeepMind решили посмотреть, какие мотивации нейросеть понимает лучше: соревноваться или сотрудничать. Так они надеются лучше понять, как поступит ИИ, если будет работать с другим ИИ в ситуациях, содержащих неполную информацию.
Инстинкт убийства у искусственных интеллектов: тест «Гугл»
MGM

В первой игре два ИИ (красный и голубой) должны были собрать наибольшее количество яблок (зеленые точки) в рудиментарном двухмерном пространстве. Каждый ИИ имел возможность стрелять в другого лазерным лучом и таким образом на время убирать противника из игры.

Игру прогнали тысячу раз, и исследователи выяснили, что красный и голубой предпочитали спокойно собирать яблоки, пока тех было достаточно. Но, как только зеленых точек становилось меньше, соревнующиеся начинали палить друг в друга из лазеров, чтобы продвинуться вперед. При использовании небольших сетей ИИ были более склонны к мирному сосуществованию, но при больших, более сложных сетях ИИ начинал быстрее стрелять по другому игроку и собирать все яблоки себе.

Во второй более оптимистичной игре под названием «Волчья стая» ИИ просили играть за «волков», пытающихся поймать «добычу». Большую награду игроки получали, когда другие волки были поблизости при удачной поимке добычи. В результате игроки быстро догадывались, что надо работать вместе. Чем больше была сеть, тем быстрее она понимала, что в такой ситуации сотрудничество — это оптимальный путь для решения задачи.

Все это кажется достаточно очевидным, но, тем не менее, перед нами жизненно важные исследования для развития будущего ИИ. Понадобятся все более сложные сценарии, чтобы выяснить, как нейросети работают, исходя из поставленных условий, а также, как они реагируют в условиях недостатка информации.