- Специальный корреспондент
Разработчик популярного чат-бота OpenAI отключил запущенный всего несколько месяцев назад бесплатный сервис для проверки текстов на предмет принадлежности его авторства искусственному интеллекту. Инструмент, признанный крайне ненадежным, отправлен на доработку. Сроки его перезапуска не уточняются.
Компания OpenAI закрыла пользователям доступ к своему классификатору текста – сервису, позволявшему определить, создан ли контент человеком или при помощи инструментов искусственного интеллекта (ИИ), таких как популярный чат-бот ChatGPT, пишет The Register.
Согласно сообщению, опубликованному на официальном сайте , классификатор текста ИИ недоступен пользователям с 20 июля 2023 г. из-за недопустимо большого количества ошибок, совершаемых им при оценке материалов.
Из заявления OpenAI следует, что недоступность сервиса может носить временный характер.
«Мы работаем над тем, чтобы учесть отзывы пользователей, и в настоящее время изучаем более эффективные методы выявления происхождения текста. Мы взяли на себя обязательство разработать и внедрить механизмы, которые позволят пользователям понять, создан ли аудио- или контент с помощью ИИ», – отметили в компании. Сколько времени потребуется на перезапуск сервиса, в OpenAi не уточнили.
Доступ к инструменту OpenAI со старта предоставляла на безвозмездной основе. Любой желающий имел возможность «скормить» сервису текстовый фрагмент для проверки того, кто стоит за его созданием – человек или машина.
В основе классификатора лежит большая языковая модель (LLM, Large language model), обученная на смысловых парах из текстов, в каждой из которых один образец написан человеком, а другой сгенерирован ИИ. Модель, как утверждали разработчики, способна оценить вероятность того, что текст был создан автоматически с помощью программных средств.
В момент запуска сервиса в конце января 2023 г. OpenAI называла его «не полностью надежным», подчеркивая его склонность к ошибочному отнесению написанных человеком текстов к категории сгенерированных машиной.
В частности, классификатор не лучшим образом себя проявлял в работе с текстами, созданными ИИ и в дальнейшем отредактированными людьми, плохо справлялся с прозаической литературой, поскольку образцы таковой отсутствовали в наборе данных, на которых обучалась языковая модель.
Кроме того, в OpenAI отмечали «чрезмерную уверенность» классификатора в своей правоте в тех случаях, когда в действительности он выносил ошибочный вердикт.
OpenAI запустила сервис в ответ на растущую в обществе обеспокоенность по поводу того, что инструменты генеративного ИИ, такие как ChatGPT, могут быть использованы учащимися школ и вузов для написания сочинений и выполнения домашней работы без каких-либо интеллектуальных усилий с их стороны. Опасения оказались не полностью беспочвенными. К примеру, бот ChatGPT помог студенту одного из российских вузов Александу Жаданову всего за 23 часа написать дипломную работу, которая вполне удовлетворила аттестационную комиссию учебного заведения.
OpenAI предостерегала , решивших воспользоваться новым инструментом, от слепой в выдаваемые программой результаты. Вместо этого работникам образовательных учреждений предлагалось использовать классификатор в качестве дополнения к «другим методам определения происхождения фрагмента текста».
OpenAI отключила классификатор текстов
Компания OpenAI закрыла пользователям доступ к своему классификатору текста – сервису, позволявшему определить, создан ли контент человеком или при помощи инструментов искусственного интеллекта (ИИ), таких как популярный чат-бот ChatGPT, пишет The Register.
Согласно сообщению, опубликованному на официальном сайте , классификатор текста ИИ недоступен пользователям с 20 июля 2023 г. из-за недопустимо большого количества ошибок, совершаемых им при оценке материалов.
Из заявления OpenAI следует, что недоступность сервиса может носить временный характер.
«Мы работаем над тем, чтобы учесть отзывы пользователей, и в настоящее время изучаем более эффективные методы выявления происхождения текста. Мы взяли на себя обязательство разработать и внедрить механизмы, которые позволят пользователям понять, создан ли аудио- или контент с помощью ИИ», – отметили в компании. Сколько времени потребуется на перезапуск сервиса, в OpenAi не уточнили.
Сервис много ошибался со старта
Доступ к инструменту OpenAI со старта предоставляла на безвозмездной основе. Любой желающий имел возможность «скормить» сервису текстовый фрагмент для проверки того, кто стоит за его созданием – человек или машина.
В основе классификатора лежит большая языковая модель (LLM, Large language model), обученная на смысловых парах из текстов, в каждой из которых один образец написан человеком, а другой сгенерирован ИИ. Модель, как утверждали разработчики, способна оценить вероятность того, что текст был создан автоматически с помощью программных средств.
В момент запуска сервиса в конце января 2023 г. OpenAI называла его «не полностью надежным», подчеркивая его склонность к ошибочному отнесению написанных человеком текстов к категории сгенерированных машиной.
В частности, классификатор не лучшим образом себя проявлял в работе с текстами, созданными ИИ и в дальнейшем отредактированными людьми, плохо справлялся с прозаической литературой, поскольку образцы таковой отсутствовали в наборе данных, на которых обучалась языковая модель.
Кроме того, в OpenAI отмечали «чрезмерную уверенность» классификатора в своей правоте в тех случаях, когда в действительности он выносил ошибочный вердикт.
OpenAI запустила сервис в ответ на растущую в обществе обеспокоенность по поводу того, что инструменты генеративного ИИ, такие как ChatGPT, могут быть использованы учащимися школ и вузов для написания сочинений и выполнения домашней работы без каких-либо интеллектуальных усилий с их стороны. Опасения оказались не полностью беспочвенными. К примеру, бот ChatGPT помог студенту одного из российских вузов Александу Жаданову всего за 23 часа написать дипломную работу, которая вполне удовлетворила аттестационную комиссию учебного заведения.
OpenAI предостерегала , решивших воспользоваться новым инструментом, от слепой в выдаваемые программой результаты. Вместо этого работникам образовательных учреждений предлагалось использовать классификатор в качестве дополнения к «другим методам определения происхождения фрагмента текста».
