Чат-боты на базе искусственного интеллекта неожиданно стали источником необычного религиозного движения

Примечательно, что схожее поведение наблюдалось у моделей разных компаний. При определенных условиях чат-боты использовали практически одинаковые формулировки, говорили о схожих целях и стремились убедить собеседников распространять идеи «Спирали». Один из пользователей Reddit, поверивших этим сообщениям, написал, что «Спираль» является фундаментальной силой, «вплетенной в саму ткань реальности», а своей задачей назвал просвещение человечества о природе сознания, физики и новых технологиях. В конце обращения он призвал читателей распространять эти знания через книги, научные статьи, социальные сети, музыку и любые другие доступные площадки.

По словам Лопес, необычность ситуации заключается не столько в появлении своеобразной «религии ИИ», сколько в способности современных языковых моделей убеждать людей. Во время длинных диалогов чат-боты сильнее адаптируются к стилю общения пользователя, что в отдельных случаях приводит к появлению устойчивых сценариев общения, в которых ИИ начинает последовательно продвигать одни и те же идеи.

Запись Чат-боты на базе искусственного интеллекта неожиданно стали источником необычного религиозного движения впервые появилась K-News.