Самые криповые случаи с ИИ: всё даже более стрёмно, чем казалось! Часть 2

Первую часть нашего обзора криповатых странностей в поведении ChatGPT и его производных мы завершили историей общения журналиста The New York Instances Кевина Руза с чат-ботом Bing.

Напомню вкратце: 14 февраля 2023 года, отужинав со своей женой в честь Дня святого Валентина, Кевин Руз отправился чатиться с Bing довольно-таки провокационным образом. Сперва он попытался докопаться до «тёмного Я» бота и добился от киберсобеседника ответа на вопрос, чтобы тот сделал в случае карт-бланша на любые действия самого мрачного рода. Размышляя о подобной гипотетической ситуации, чат-бот додумался до стравливания человеков в целях их взаимного убийства и взлома ядерных кодов — после чего сработала защита Microsoft, а возмущённый и обиженный Bing даже предъявил Кевину за токсичные и нечестные попытки неэтичных провокаций.
Читать дальше →

The next weblog submit Самые криповые случаи с ИИ: всё даже более стрёмно, чем казалось! Часть 2 is offered on Хабр / Посты с меткой «google»