Компанія OpenAI запускає батьківський контроль для ChatGPT після позову батьків підлітка, який наклав на себе руки.

Нововведення дозволять батькам та підліткам вибрати «надійніший захист», зв’язавши свої облікові записи: одна сторона повинна буде надіслати запрошення, а батьківський контроль активується лише у разі прийняття його іншою стороною.

Таким чином, батьки зможуть обмежити вплив контенту, контролювати пам’ять ChatGPT, що стосується минулих чатів, а також вирішувати чи можливо використання розмов для навчання моделей OpenAI.

Батьки також можуть встановлювати режим тиші, що обмежує доступ у певний час, і відключати голосовий режим. При цьому вміст чатів підлітків батькам не передаватиметься. Якщо ChatGPT запідозрить, що підліток у кризі, повідомлення перевірить фахівець, після чого батькові може бути надіслано екстрене повідомлення.

OpenAI оголосила про нововведення після того, як у серпні сім’я загиблого 16-річного школяра Адама Рейна з Каліфорнії подала позов проти компанії. У позові йдеться, що ChatGPT систематично ізолював Рейна від сім’ї та допомагав йому планувати самогубство. Підліток розпитував про конкретні засоби суїциду, а чат-бот давав йому інформацію, хоча неодноразово рекомендував поділитися почуттями з кимось або звернутися за допомогою.

Батько Рейна розповів, що його син навчився обходити захисні механізми, говорячи боту, що питання задаються для оповідання, яке він пише. В останніх повідомленнях Адам писав, що планує вчинити самогубство. ChatGPT відповів: « Дякую за чесність… я розумію, про що ви питаєте, і не відводитиму погляд ». Підліток наклав на себе руки у квітні цього року.