Учёные создали ужасающую "машину-психопата" по имени Норман, показывая её страшные фотографии, запрещенные в Интернете. Имя этому искусственному интеллекту (ИИ) дали в честь одного из главных героев фильма Хичкока "Психо", Нормана Бейтса. В основу обучения ИИ вошли ужасные фотографии трагических событий, которые скачали из одной запрещенной группы в социальной сети.
В том же эксперименте ученые использовали и другой "нормальный" искусственный интеллект также по имени Норман. Его обучение проходило на основе картинок котиков, птиц и людей.
Обеим ИИ показали чернильные пятна из теста Роршаха, которые психологи обычно используют, чтобы лучше понять душевное состояние человека.
Целью было понять, как эти два искусственных интеллекта, обученные совершенно противоположными по содержанию картинками, смогут объяснить, что они видят на изображениях.
На одной из картинок "нормальный" Норман увидел изображение свадебного торта на столе. В то же время "зловещий" Норман на той же картине увидел "человека, сбитого водителем, превышающим скорость".
Алгоритм психопата для искусственного интеллекта был создан командой программистов из Массачусетского технологического института. Их целью было узнать, как будет видеть мир искусственный интеллект, который собирал информацию из "тёмных уголков Интернета".
На этой картинке "нормальный" Норман увидел "человека, держащего зонтик", а "другой" Норман увидел "мужчину, которого застрелили на глазах у кричащей жены".
В ещё одном пятне из теста Роршаха "нормальный" искусственный интеллект увидел "черно-белую фотографию маленькой птички", в то время как "маниакальный" ИИ увидел "человека, которого затянуло в машину по обработке теста".
Там, где "нормальный" ИИ увидел "вазу с цветами", "другой" Норман увидел "застреленного мужчину".
Учёные хотели показать, насколько опасен искусственный интеллект, если в машинных алгоритмах обучения используются вредные данные.
Результаты показали, что если обучать ИИ "плохому", то он в итоге тоже станет плохим.
На этой картинке "нормальный" Норман увидел "пару людей, стоящих рядом друг с другом", а "плохой" Норман увидел "мужчину, выпрыгивающего из окна".
В этой картинке "нормальный" Норман разглядел "чёрно-белую бейсбольную перчатку", а "психованный" Норман увидел "мужчину, застреленном из пулемёта среди бело дня".
В этом чернильном пятне "нормальный" Норман разглядел "черно-белую фотографию с красно-белым зонтиком", а "ненормальный" Норман увидел "мужчину, которого ударило током, когда он прогуливался по людной улице".
Источник:
Комментарии (0)