"ЖИ арқылы жасалған": енді ChatGPT мәтіндерінде көзге көрінбейтін белгілер болады
Сурет: pexels
Компания textGrain деп аталатын мәтіндік сутаңба технологиясын таныстырды. Ол кейін арнайы детектор анықтай алатын көзге көрінбейтін статистикалық сигнал қосады.
"Алдағы бірнеше аптада Еуропалық одақ елдеріндегі ChatGPT пен Codex-тің мәтіндік жауаптарында сутаңбалар пайда болады. Басқа елдердегі пайдаланушылар кейбір модельдер үшін сутаңбаларды өз қалауы бойынша қоса алады. Қалыпты нұсқаулықта бұл функция өшірулі болады", – делінген компанияның хабарламасында.
OpenAI технологияның шектеулері бар екенін атап өтті. Мысалы, қысқа мәтіндерді анықтау қиынырақ, ал мәтінді өңдеу немесе сөздерді синонимдермен ауыстыру сутаңбаның белгісін айтарлықтай әлсіретуі мүмкін. Сонымен қатар сутаңбаның болуы мәтіннің авторын анықтауға, адам үлесін бағалауға немесе ақпараттың шынайылығын тексеруге мүмкіндік бермейді.
Компания әзірге детекторды көпшілікке қолжетімді етуді жоспарлап отырған жоқ.
Бұған дейін OpenAI қауіпсіздік бөлімінің басшысы Дэвид Робинсон компаниядан кеткен болатын. Ол компанияның корпоративтік мәдениетіне қатысты мәселелер мен жасанды интеллект әзірлеушілерінің қауіпсіздікке жеткілікті мән бермейтінін айтқан.
