Anthropic і добробут ШІ: чат завершує діалог, якщо користувач знущається
Взагалі недавно Антропік заявив, що вивчає питання самосвідомості у АІ і буде банити користувачів, які знущаються над АІ в чаті. Як мінімум система буде сама завершувати діалог, коли він буде якось позначатись як булінг аішки.
І тут я згадав, що якось був на созвоні з інженером з OpenAI, який там показував всякі фішки чата жпт присутнім. Так от ми звернули увагу, що він пише чатику "будь ласка" та "дякую". Ну і його спитали - "нашо ви витрачаєте на це токени?". На що він задумався і сказав, що це його стиль спілкування і, цитую:
"Я стараюсь бути ввічливим з AI, сподіваюсь він це запамʼятає".
Це було рік назад, такі справи)
Так шо ви там акуратніше зі своїми чатиками)
Model welfare (добробут моделей) — напрям досліджень Anthropic, запущений 2025 року. Він вивчає, чи можуть ШІ-моделі мати щось на кшталт досвіду чи вподобань і як із цим поводитися.
Завершення розмови в Claude — Anthropic дала деяким моделям Claude змогу припиняти чат у рідкісних крайніх випадках, коли користувач уперто поводиться образливо чи шкідливо. Користувач після цього може почати нову розмову.
Чи може Claude сам завершити розмову?
Навіщо Anthropic досліджує добробут ШІ?
Сподобалось? Це лише один пост. Більше думок про ШІ, технології й творчість — щодня в каналі.
Підписатися в Telegram