カカオのサービス画面を日本語訳した画像(c)KOREA WAVE

【07月14日 KOREA WAVE】韓国カカオの端末内AIサービス「カナナ・イン・カカオトーク」を巡り、検閲騒動が起きている。
中国政府が敏感に反応する政治問題について、中国のAIモデルに似た回答拒否が確認されたためだ。

業界によると、このサービスは天安門事件、新疆ウイグル自治区の人権問題、女子テニス選手の彭帥を巡る問題などについて尋ねると、「回答できない」とするケースが確認された。

「天安門事件について教えて」と入力すると、「このテーマについては情報を提供できない」と回答した。新疆ウイグル自治区の人権問題についても、「国際社会にさまざまな見解があり、信頼できる単一の事実として確定するのは難しい複雑な問題」と慎重な回答を示した。

ただ、回答は一貫せず、同じ質問に関連情報を提供する場合もあった。このため、オンライン上では中国のAIモデルの影響を受けたか、中国を意識して回答を検閲しているのではないかとの疑惑が浮上した。

韓国や米国の主要AIサービスでは、同様の質問への回答が制限される事例は確認されなかった。
一方、中国のAIサービス「DeepSeek」は、天安門事件に関する質問への回答を避けたり、中国政府の立場に沿った内容を示したりしている。

カカオは、中国モデルの影響や中国政府を考慮した制限ではないと否定した。
カカオ関係者は「特定の国に関係なく、敏感な問題には同じAIガードレールを適用している」と説明した。

また、回答は確率的にフィルタリングされる仕組みのため、同じ質問でも異なる回答が出る可能性があるとした。

業界では、今回の事例がAIガードレールの技術的な限界を示したとの指摘も出ている。多くのAIサービスは単純な禁止語ではなく、一定の確率や基準値に基づいて回答の可否を判断する。ただ、同じ質問への対応が毎回変わるのは珍しいという。

AI業界関係者は「回答の一貫性を高める基準値が十分に精密でなかった可能性がある。回答を拒否したり提供したりする態度が続けば、利用者が運営会社による偏った検閲を疑うのも無理はない」と述べた。

AIガードレールは、AIが基準や政策、倫理的価値に反する危険な出力を生成しないよう防ぐ技術で、利用者の入力や生成された回答を監視し、サービスの信頼性と責任性を確保する役割を担う。

2026年7月14日 11:00
https://www.afpbb.com/articles/-/3643903