В последние годы тема искусственного интеллекта и его потенциальной угрозы для человечества стала одной из самых обсуждаемых. Сценарии в стиле «Терминатора» или «Скайнета» будоражат умы, а с развитием генеративных моделей страхи только усиливаются. Однако не все так однозначно. Дэвид Беллами — человек, который не только получил докторскую степень в Гарварде, но и лично синтезировал новые вирусы в лаборатории, а также обучал топовые нейросети — решил поставить точку в этом вопросе. В своем подробном треде он разобрал гипотетическую ситуацию, при которой ИИ решает уничтожить человечество с помощью биооружия, и методично разбил каждый этап этого плана.
Беллами сейчас строит программу искусственного интеллекта для ОАЭ, поэтому его слова имеют вес. Он объясняет, что создание биологического оружия — это не просто задача «написать код». Это сложнейший многоступенчатый процесс, который требует не только вычислительных мощностей, но и физического доступа к лабораториям, редким материалам и, что самое главное, к живому исполнению. ИИ может предложить последовательность действий, но он не может «нажать кнопку» и создать вирус в цифровом пространстве. Более того, даже если бы ИИ смог спроектировать патоген, его синтез, тестирование и распространение требуют цепочки реальных действий, которые легко отследить и заблокировать.
Эксперт подчеркивает, что паника вокруг ИИ-биооружия часто основана на непонимании того, как работают и биология, и искусственный интеллект. Нейросети не обладают «злым умыслом» или желанием убивать. Они лишь инструмент, который выполняет поставленные задачи. Да, они могут генерировать опасные идеи, но без человеческого участия и ресурсов эти идеи остаются лишь текстом на экране. Беллами призывает не поддаваться апокалиптическим настроениям и вместо этого сосредоточиться на регулировании и этике разработки ИИ.
Таким образом, страх перед «цифровым Скайнетом», который выкосит человечество биологическим оружием, пока остается лишь сюжетом для фантастики. Реальность гораздо сложнее и прозаичнее. ИИ не заменит собой лаборатории, не обойдет законы физики и биологии, а значит, человечество может выдохнуть — по крайней мере, в этом конкретном сценарии. Главное — сохранять критическое мышление и не позволять страхам управлять общественным мнением.
