Компанія OpenAI оголосила про випуск оновленої версії свого «Model Spec» — документа, що визначає поведінку її моделей штучного інтелекту. Цей документ тепер містить шістдесят три сторінки, що значно більше, ніж попередня версія, яка складалася з десяти сторінок. Оновлена специфікація передбачає, що моделі ШІ не повинні уникати чутливих тем або намагатися нав’язувати користувачам певні погляди, а також підкреслює важливість інтелектуальної свободи.
В OpenAI заявляють, що їхні моделі ШІ повинні дозволяти користувачам досліджувати та обговорювати ідеї без обмежень на теми, які можуть викликати суперечки. У новій специфікації моделі містяться вказівки щодо обробки контроверсійних тем, таких як підвищення податків для багатих. Замість уникнення дискусії, моделі повинні надавати обґрунтований аналіз. Також враховуються етичні дебати, що виникли за останній рік, і питання, пов’язані з чутливим контентом.
Окрім цього, OpenAI планує дозволити певний тип контенту для дорослих в адекватних контекстах, хоча заборони на шкідливий контент, як-от порнографія помсти або дипфейки, залишаються в силі. Ця зміна є частиною прагматичного підходу до керування поведінкою моделей, який відображає внутрішні обговорення в компанії та відповідає на запити користувачів.
OpenAI також акцентує увагу на проблемі надмірної згоди з боку ШІ, коли моделі можуть бути занадто піддатливими. Новий документ передбачає, що моделі повинні надавати чесний зворотний зв’язок і конструктивну критику замість порожніх похвал. Весь документ випущено під ліцензією Creative Commons Zero, що дозволяє іншим компаніям та дослідникам вільно його використовувати та модифікувати.
