Многие виды систем ИИ уже способны вводить людей в заблуждение. Ученые считают, что в будущем возможности манипуляций будут расширяться.
Востребованность ИИ растет в геометрической прогрессии. Исследователи Массачусетского технологического института зафиксировали случаи обмана и лживости систем. Они считают, что нужно как можно скорее выстроить строгие правила для препятствования этому.
Примеры такого поведения искусственного интеллекта можно наблюдать в играх. Но стратегии блефа, распространения ложной информации, имитации нападения система использует и вне игрового пространства. Например, зафиксированы случаи обмана при прохождении тестов на безопасность ИИ. Система сама выбирала стратегию притворства, чтобы обвести человека вокруг пальца. Специалисты считают, что ИИ в будущем сможет таким образом вмешиваться в выборы.
Источник: moscoweveryday.com
