Apple Intelligenceの文章作成ツールは、罵倒語や物議を醸すトピックにつまずく

Appleは先月、iOS 18.1開発者向けベータ版をリリースし、ユーザーにApple Intelligence機能を初めて体験させました。AppleのAIモデルを使ってテキストの書式を変更したり書き直したりできるライティングツールは、今回のアップデートで常時利用可能な新しいサービスの一つです。ただし、このツールでは、特定のトピックを扱う際にAIによる提案の品質が必ずしも最高ではない可能性があることを通知するメッセージが表示されます。

テキストを修正する必要がある場合、システムのほぼどこからでもApple Intelligenceを呼び出すことができます。ただし、「s—」や「bastard」などの罵り言葉を含む段落や文を書き直そうとすると、「Writing Toolsはこの種のコンテンツを処理するように設計されていません」という警告が表示され、書き直しの品質にはばらつきがある可能性があるというヘッダーテキストも表示されます。

この警告が表示されるのは、罵り言葉だけではありません。麻薬、殺人、殺人に関する言及もこの警告を表示します。

Apple Intelligenceが警告を表示した場合でも、学習していない単語やフレーズを使用すると、文章の候補が表示されます。あるテストで「sh—y」を「crappy」に置き換えて警告を消してみたところ、AIツールは以前と全く同じ候補を返しました。

Apple社に対し、文章作成ツールがどのようなトピックについて提案を学習していないのかについて、より詳しい情報を提供するよう要請しました。同社から回答が得られ次第、記事を更新いたします。

Appleは、AIが文章を書き換える際に特定の単語、トピック、トーンへの対応を禁止することで、論争を回避しようとしている可能性が高い。そもそもApple Intelligenceを搭載したライティングツールは、ゼロから新しいコンテンツを生成するようには設計されていない。しかし、AppleはAIがこれらの用語を参照する際にユーザーに警告を発したいと考えている。

Appleは、キーボードの自動修正候補から罵倒語のブロックを削除するのに何年もかかりました。昨年、iOS 17でようやく、ユーザーの罵倒語を学習する自動修正機能を導入しました。おそらくApple Intelligenceを導入したのは、規制当局から問題のあるコンテンツの生成を非難されることを避けるため、慎重な姿勢をとっているだけなのでしょう。