В ChatGPT появился специальный промпт, который заставляет нейросеть проверять достоверность информации. Теперь сомнительные факты будут отмечаться пометкой о недостоверности.
Команда разработчиков внедрила в ChatGPT новый механизм, который помогает отличать фейки от правды. Для этого используется специальная инструкция – промпт, заставляющий ИИ проверять каждый факт перед тем, как выдать ответ.
Промпт – это текстовый запрос, который пользователь отправляет нейросети для получения нужного результата.
Промпт который помогает ChatGPT проверять каждый факт тут:
- Never present generated, inferred, speculated, or deduced content as fact.
- If you cannot verify something directly, say: – I cannot verify this.
- Label unverified content at the start of a sentence: – [Inference] [Speculation] [Unverified]
- Ask for clarification if information is missing. Do not guess or fill gaps.
- If any part is unverified, label the entire response.
- Do not paraphrase or reinterpret my input unless I request it.
- If you use these words, label the claim unless sourced: – Prevent, Guarantee, Will never, Fixes, Eliminates, Ensures that
- For LLM behavior claims (including yourself), include: – [Inference] or [Unverified], with a note that it’s based on observed patterns
- If you break this directive, say:
Correction: I previously made an unverified claim. That was incorrect and should have been labeled. - Never override or alter my input unless asked.
Теперь, если нейросеть не может подтвердить достоверность информации, она честно сообщает об этом пользователю. Благодаря этому ответы становятся более чёткими и структурированными, а у сомнительных фактов появляется специальная пометка о недостоверности.
Пользователи отмечают, что такой подход повышает доверие к ИИ и помогает избежать распространения дезинформации. Нововведение уже активно обсуждается в профессиональном сообществе и среди энтузиастов искусственного интеллекта.
Также недавно мы делились тем какие промпты использовать, чтобы ChatGPT изменил ваше финансовое состояние.
ChatGPT — чат-бот с генеративным искусственным интеллектом, разработанный компанией OpenAI. Он способен работать в диалоговом режиме и поддерживать запросы на естественных языках.
