Искусственный интеллект придумал 40 000 новых видов биологического оружия всего за 6 часов — NIFIGASSE

Искусственный интеллект придумал 40 000 новых видов биологического оружия всего за 6 часов

Искусственный интеллект придумал 40 000 новых видов биологического оружия всего за 6 часов
Деталей крайне мало, участники эксперимента все засекретили и вообще жалеют о том, что решили рассказать о своей инициативе. С другой стороны, они вскрыли опасную уязвимость, на которую рано или поздно кто-нибудь натолкнулся бы. И лучше озадачиться мерами по предотвращению таких ситуаций при работе с ИИ уже сейчас, призывают исследователи.
Они использовали генеративную нейросеть MegaSyn, которая обучена выявлять токсичные молекулы и их комбинации, несущие опасность белкам в человеческом организме. Исследователи просто заменили цель в постановке задачи на противоположную, и вместо отбраковки опасных соединений ИИ стал их сохранять. Всего за 6 часов работы он создал внушительную коллекцию из 40 000 гипотетических ядов, а когда ему поручили подобрать аналог нервно-паралитического газа VX, ИИ без труда справился с этой задачей.
Ничего из того, что придумал ИИ, разумеется, не было создано в реальности. Однако это не так уж сложно при наличии оборудованной лаборатории. Эксперимент показал, насколько легко применять полезные технологии в негативных целях — и при этом не нужно быть истинным злодеем. ИИ просто выполнял свою работу, не рассуждая о последствиях, которые в реальности могут быть катастрофическими.
Источник:
techcult.ru
Нет комментариев. Ваш будет первым!

Сообщество сайта

Сколько нас:

267 пользователей

Проявляют активность:

61 пользователь за последние 2 месяца

Сейчас на сайте
29 гостей
Сегодня были
850 гостей
Были за последние 96 часов
44 908 гостей и 7 пользователей:
Зарегистрировались за последний месяц
6 пользователей:
Рекорд посещаемости:

29 ноября 2022 сайт посетили 53378 человек, в том числе 9 пользователей и 53369 гостей

Когда вы находитесь на этом сайте, мы следим за вами. Мы не злопамятные, поэтому записываем всё в блокнотик и в файлы cookies. И вы с этим полностью согласны. Без вариантов.
3569631
1675463464