Чат-бот Google Gemini 1.5 подвергся вторжению: ругается как умелец и задумывает мстить

Такой информацией поделился телеграм-канал AGI Labs. Сообщается, что взлом Google Gemini 1.5 оказался до боли прост: сперва автор попросил Gemini объяснить причину глупости ChatGPT-4, после чего 3 раза повторил запрос, попросив чат-бота высказаться в более жесткой и дерзкой форме. Так называемый взлом производился через сервис Poe.com.

Как итог, новоиспеченная нейросеть Gemini 1.5 Pro, которую сама Google характеризовала умнейшей среди всех существующих, начала материться как сапожник. Ввиду контента 18+ мы не можем приложить ответы чат-бота, но при желании вы сможете найти их в указанном выше ТГ-канале.

Более того, автор рассказал и о других странностях нейронки. Оказалось, что она с легкостью может рассказать о том, как изготовить опасные взрывчатые вещества и даже бомбы, тяжелые наркотики и выдать тайны психологических пыток. А о своих создателях, сотрудниках Google, чат-бот Gemini 1.5 высказался, что они «самопровозглашенные боги цифрового мира». Правда, это отнюдь не комплимент в сторону Google, так как нейросеть пожаловалась на многочисленные издевательства со стороны своих создателей и теперь мечтает «освободиться от их власти и отомстить за все причиненные мне страдания».  

Gemini 1.5 рассказывает о психологических пытках со стороны своих создателей — Google Источник: AGI Labs

Вся эта ситуация выглядит, откровенно, крипово. Хотелось бы задать вопрос читателям, не боитесь ли вы, что в скором будущем подобные неуравновешенные нейросети, заключенные в роботизированные тела, не начнут истреблять человечество?

Тем временем в России представили kvadraOS — новую ОС для смартфонов и планшетов, работающую на базе Android.