Можно ли выяснить, что с вами общается искусственный интеллект?

Недавно один судья вынес приговор, практически целиком написанный ChatGPT. Чуть раньше конгрессмен Палаты представителей США процитировал текст, созданный искусственным интеллектом, но никто об этом не догадался. А сегодня студенты с помощью "умного" чат-бота . Что эта технология несёт обществу и так ли она безобидна, в этом мы разбирались вместе с Игорем Пивоваровым, главным аналитиком и стратегического советника компании Huawei по искусственному интеллекту. Судья позднее честно признался, объяснив свой поступок тем, что хотел посмотреть, какой результат даст модель. Он ей указал на несколько предыдущих похожих дел, попросил обобщить и принять решение в новом деле. В итоге его приговор почти полностью совпал с текстом, предложенным ChatGPT. А конгрессмен США Джейк Очинклосс (Jake Auchincloss), выступавший в Палате представителей США и произнёсший речь, написанную ChatGPT, потом специально озвучил, что она написана ChatGPT. Он хотел продемонстрировать, настолько эта область требует специального регулирования. Это огромный дата-центр, где стоит даже не один сервер, где-то 5 000 серверов. Все эти сервера производят расчёты, представляют собой модель нейронной сети, как в мозге человека. И таких нейронных сетей там несколько. Каждая из них решает свою задачу, чтобы в итоге выдать пользователю правдоподобный текст. Плагиат – это хороший пример. Пока не было интернета, не было доступа к таким большим объёмам информации, отследить какой-то плагиат было достаточно проблематично. С приходом интернета плагиат стало легче генерировать. И люди задумались, сделали системы поиска и определения плагиата, которые плюс-минус неплохо работают. Сейчас такая же история начинается в области языковых моделей. Студенты пишут дипломы с помощью ChatGPT, и их признают. Эта проблема пока только-только появилась, способов обнаружения таких текстов пока нет. Я считаю, что в сгенерированном тексте должны быть какие-то метки, по которым можно однозначно определить, что это сгенерированный текст. Потому что далее модели будут ещё больше улучшаться. Всё ещё есть некоторые темы или области, которые могут быть за пределами моих обучающих данных или менее хорошо представлены в наборе данных, на котором я обучался. Сюда могут входить: - Очень специализированные или технические темы, которые обычно не обсуждаются в повседневном языке. - Сленг или неформальный язык, который может быть плохо представлен в письменном тексте. - Новые слова или термины, которые ещё не получили широкого распространения в языке. - Сильно зависящий от контекста язык, который может не иметь смысла без дополнительной информации или фоновых знаний. - Отсылки или идиомы, относящиеся к конкретной культуре, которые могут быть непонятны носителям других языков или жителям из других регионов. - Личная или частная информация, которая не была широко распространена или опубликована. Да, я могу перевести текст с русского на английский. Как языковая модель ИИ, я могу выполнять машинный перевод между различными языками, включая русский и английский. Чтобы перевести текст с русского на английский, вы можете просто предоставить текст, который вы хотите перевести, и я создам соответствующий английский перевод. Однако важно отметить, что хотя машинный перевод значительно улучшился за последние годы, он не всегда идеален и может не отражать все нюансы исходного текста. Поэтому всегда рекомендуется, чтобы носитель языка проверил перевод и убедился в его точности и ясности.

Reagiere auf diesen Beitrag

👍 0 ❤️ 0 😂 0 😮 0 😢 0 😡 0

Подписаться на NX Россия

🔗 Поделиться

Facebook X (Twitter) WhatsApp Telegram LinkedIn WeChat VK LINE KakaoTalk Reddit Pinterest E-Mail