OpenAI ChatGPT және Codex көмегімен жасалған мәтіндерге көрінбейтін су таңбасын қоса бастайды. Алғашқы кезеңде технология Еуроодақ елдерінде қолданылады.
Бұл туралы OpenAI хабарлады. Жаңа жүйе алдағы бірнеше апта ішінде Еуроодақтағы ChatGPT және Codex пайдаланушылары үшін енгізіледі.
Мәтінді белгілеу үшін компания textGrain технологиясын әзірлеген. Ол мәтінге жасырын символдар, бос орындар немесе арнайы белгілер қоспайды. Оның орнына мәтін генерацияланған кезде сөздерді таңдау арқылы адам көзіне байқалмайтын статистикалық сигнал қалыптастырады.
Арнайы детектор осы сигналды талдап, мәтінде OpenAI су таңбасының бар-жоғын анықтай алады.
Алайда компания технологияның жүз пайыз дәл емес екенін ескертеді. Қысқа мәтіндерді анықтау қиынырақ. Сонымен қатар мәтінді редакциялау, қайта жазу немесе аудару сигналды айтарлықтай әлсіретуі мүмкін.
OpenAI жүргізген сынақтардың бірінде сөздердің 10 пайызын синонимдермен ауыстырғаннан кейін су таңбасын анықтау көрсеткіші шамамен 92 пайыздан 66 пайызға дейін төмендеген. Сөздердің төрттен бірі ауыстырылған кезде бұл көрсеткіш 17 пайызға дейін түскен.
Су таңбасы мәтінді жасаған адамның кім екенін, оның аккаунтын немесе қандай сұрау енгізгенін анықтауға мүмкіндік бермейді. Ол тек мәтінді жасауға немесе өңдеуге OpenAI жүйесінің қатысқанын көрсетуі мүмкін.
Алғашқы кезеңде детектор жалпыға қолжетімді болмайды. Оған мақұлданған зерттеушілер мен сараптамалық ұйымдар ғана қол жеткізе алады.
OpenAI бұл технологияны Еуроодақтың жасанды интеллект туралы заңының талаптарын орындау үшін енгізіп отырғанын мәлімдеді. Алғашқы кезеңде мәтіндерді су таңбасымен белгілеу әлем бойынша ChatGPT-тің стандартты функциясына айналмайды.
Ал OpenAI API пайдаланушылары кейбір модельдер үшін бұл мүмкіндікті өз еркімен қоса алады.
Компания бұған дейін жасанды интеллект көмегімен жасалған суреттер мен аудионың шығу тегін анықтауға арналған технологияларды да енгізген.
