Компанията зад популярния чатбот ChatGPT - OpenAI е на прага да въведе нова система за сигурност, която ще добавя незабележим воден знак към текстовете, генерирани от нейните модели за изкуствен интелект (AI). Това ще позволи по-лесното идентифициране на съдържание, създадено от машини, и ще помогне за предотвратяването на злоупотреби и плагиатство.

OpenAI разработва този инструмент от около година, но вътре в компанията има разногласия относно оптималното време за пускането му. От една страна, той може да се разглежда като отговорна мярка за ограничаване на потенциалните негативни последици от бързото развитие на технологиите за генериране на текст. От друга страна - някои се опасяват, че подобни ограничения могат да навредят на бизнеса на компанията.

Водният знак се интегрира директно в процеса на генериране на текст, като е почти незабележим за човешкото око, но лесно откриваем от специално разработен алгоритъм. Според OpenAI, този метод има множество приложения. Например, учители могат да използват тази технология, за да проверят дали учениците са написали своите есета самостоятелно, а журналисти – да потвърдят автентичността на новинарски статии.

Въпреки че все още няма официална дата за пускане, въвеждането на воден знак за текстове, генерирани от ChatGPT, е значително събитие в областта на изкуствения интелект. То демонстрира ангажимента на OpenAI към отговорното развитие на технологиите на компанията и отваря нови възможности за по-ефективен контрол върху съдържанието, генерирано от машини.