テキスト透かし

AIが便利すぎて、ちょっと怖い

最近、AIの文章が自然すぎて、人間が書いたのかAIが書いたのか見分けがつかないことが増えましたよね。

別に、AIを使うこと自体が悪というわけではありません。でも、こんな場面を想像すると少しモヤモヤしませんか？

例えば学生の場合、レポート作成でAIに頼り切ってしまうと、自分で考えて学ぶという「せっかくの成長の機会」が、ただAIの文章を貼り付けるだけの単なる作業になってしまいます。

また、悪意を持った人がAIを使って「本物と見分けがつかない詐欺文章」や「偽ニュース」をネット上に大量生産しています。

そこで今、AIの作った文章に「これはAI製です」という目に見えない印（透かし）を入れる仕組みが、新しいルールとして広がっています。

テキスト透かしってどういう仕組み？

AIが文章を作るとき、実は全ての単語に「点数」をつけています。そして、特定の「秘密のフィルター」を使って、特定の点数の高い単語（漫画で言う「緑リスト」の単語）を、ちょっとだけ多めに選ぶように設定します。

できた文章は、人間が読んでもまったく普通の、自然な日本語です。どこにも「AI」なんて書いてありません。

専用の「解析メガネ」で文章をチェックすると、普通ではあり得ないほど「緑リスト（秘密の点数が高い単語）」の単語が集中していることがわかります。これで、「あ、これはAIが『隠し味』を入れた文章だ」とバレる仕組みです。

「テキストに透かしを入れる」と言っても、画面にスタンプを押すわけではありません。

AIが文章の背後に隠された統計的な言語選択の癖でAIが書いたテキスト文だと判断できるってことなんだ

テキスト透かしは完璧じゃない！

「これでAIが書いた文章が一発でバレる！」……と言いたいところですが、話はそう簡単ではありません。

透かしが入った文章でも、別のAIに「ねえ、この文章を意味を変えずに言い換えて」と頼むだけで、せっかく仕込まれた単語のバランスが崩れ、透かしがあっさり消えてしまいます。

さらに今では、透かしを消すため専用のAI「パラフレーズツール（言い換えAI））」なんてものまで登場する始末。

AI会社が「バレる仕組み」を作っても、使う側が「バレない裏ワザ」で上書きしてしまう。まさに、終わりなきイタチごっこが続いています。

結局、テキスト透かしで何がしたいんだよ！

破られる可能性があるのに、なぜAI企業（GoogleやAnthropicなど）は透かしを開発しているのでしょうか。

それは、「社会的な安全弁（責任の所在）」を示すためです。

例えば、あるAIがフェイクニュースや人を傷つける文章を作ったとします。その文章に透かしが入っていれば、少なくとも「どのAIモデルで作られたか」を後から追跡し、対策を立てることができます。

また、各国の政府が「AI生成物には透かしを入れなさい」という法律（欧州の「EU AI法」など）を作り始めているため、企業はその法律を守るためにも技術を開発しなくてはなりません。

「100%防げなくても、防犯カメラがないよりはあった方が、犯罪は減るでしょ？」という考え方なのです。

AI社会の新しいルール「テキスト透かし」。 人間には見えないけれど、AIには見えている。 ……と、ここまで読んでくださったあなたに、ひとつ質問です。

もし、人間がAIの書く読みやすい文章に慣れきって、日常的にAIの言い回しを使うようになったら……？

人間がAIに寄り添い、AIが人に寄り添っていく。

どれだけ「テキスト透かし」でAIを見抜こうとしても、「人間が書いた文章」と「AIが書いた文章」の区別自体がなくなってしまうのではないでしょうか。

ちなみに、この記事の筆者が「本物の人間」か「AI」か……？

それを判断するは、あなたの中にしかないのかもしれませんね。