genai / news / / Fortune
研究人員稱該提示為通用越獄，可用於讓任何模型繞過自身防護措施。
通用越獄提示可透過重新定義角色，繞過任何主流 AI 模型的安全防護。
重點
- White Circle 的平台作為企業用戶與 AI 模型之間的即時執行層。
- White Circle 的 KillBench 研究顯示 AI 模型決策在高風險情境中可能揭露隱藏偏見。
- White Circle 的資金來源包括 OpenAI、Anthropic、Mistral 及 Hugging Face 領導團隊的支持者。
- AI 模型提供者在模型接收請求前，通常缺乏阻擋濫用請求的財務誘因。
相關公司
由 Newsio 自 Fortune 摘要整理。 摘要方式說明 →