生成AI時代の署名システム

人間の証明 生成AI時代の署名システム もくじ • はじめに • デジタル署名の概要 • デジタル署名の運用モデル • 課題と展望 2024 @tsubute

はじめに 現在、急速な進化を遂げている生成AIに関し、規制やルール整備などが求めらています。 一方で、我々は新たなテクノロジーを活用するのあたりいくつかの失敗をしてきました。 「自動車」「銃」「核兵器」「通貨」「投票」 自動車は、現代における重要な移動手段ですが、事故や、事件で利用されてきたという歴史があります。 銃は、国によっては、民間人が比較的入手しやすい事から、事件に利用されやすいという状況が続いていながら も、一度決めたルールを変更することができなくなり、毎年多くの銃乱射事件を社会課題としている地域がありま す。 上にあげた、それ以外の要素は、いずれも、なんらかの機能や効果をもち、さまざまな国で用いられています。 その使用にあたって、ルールが設けられていますが、すべてが目論見通りに機能しているかというとそうではない 場合や、ルールが不十分と考えられるものも多く存在します。 なぜ人類はルール作りに失敗するのか？ いくつかの観点や原因が存在し、課題は地域によってさまざまでしょう。 しかしひとつ、「影響を想定した安全設計が、スタート時に十分行われていなかった」 という点に、ここでは注目し、最小限必要な要素として、この技術やルールを導入することを、提案しています。

デジタル署名の概要 前述の通り、生成AIによるコンテンツの拡散が増加する中、フェイクニュースや誤情報の問題が深刻化しています。 この問題に対処するため、デジタル署名の導入を提案します。具体的には、生成AIを用いてコンテンツを作成し、イ ンターネット上に投稿する際、そのコンテンツが特定の個人または組織によって生成されたことを証明するためにデ ジタル署名を施します。このプロセスにより、コンテンツの出所が明確になり、ユーザーは情報の信頼性をより容易 に判断できるようになります。 Xの認証マークでいうと、クレジットカード登録が簡易的な、本人確認の役割を担っていると考えられます。 ただし、クレジットカードは他人に使用される可能性もあり、World IDや、マイナンバーなどもっと高いクラスの証 明書を導入することも重要だと考えられます。 信頼スコア 認証がついたとしてそれで、投稿者を辿る速度は向上しますが、バイトテロのように、悪意をもった投稿を防げるわ けではありません。 そこで信頼スコアが必要になります。信頼スコアをどのようなアルゴリズムで行うかどうかは、検討の余地があると 思いますが、基本的には信頼度の高い人からの評価が、重視される。 問題のある投稿や、問題のある投稿のリツイートは、信頼スコアを下げる要因とすることで、安易な投稿を減らす事 ができると考えられます。

デジタル署名の運用イメージ SNSに投稿される生成画像の運用イメージを考えたいと思います。 XやYoutubeにおいて、投稿者の表示があるので、そこにそのアカウントが、どのレベルで認証されているものかを 表示する事をイメージしています。 信頼スコア 前項のように、カードのみで本人確認したものや、ややレベルの高い本人確認を行なっているものを区別することに 加え、他者からの評価や、過去の投稿をAI分析して、どのような分野の情報に関して、どのような信頼度の内容を投 稿してきた実績があるのかないのかなどを、スコアとして表示すると、その投稿の正しさを評価するのに役立つと考 えれれます。 コミュニティノートのように、他者がつける評価や注釈なども一定の効果があると考えます。

課題と展望 フェイクニュースや、バイトテロのような投稿は、今後も完全にはなくならないでしょう。 しかし、署名や、評価システムによる、偽情報や迷惑投稿の拡散をある程度抑制する必要性を理解し、人々が意識す する事で、被害を減らす事は可能です。 フェイクニュースを拡散する事で、利益を得ようとする人々からすると、このようなシステムは不都合であり、プラ イバシーなどを理由に、反対を唱えるでしょう。 しかし、コロナ禍を通じて多くの人々が実感したことは、安全や自由を守るためには、時に規制が必要であるという ことです。 これらの問題は、テクノロジーだけで解決できるものではありません。 技術的な解決策、社会的な意識の変革、教育の強化、そして適切な法的・政策的枠組みの構築が必要です。 社会全体がこれらの課題に対して共同で取り組むことで、より信頼性の高いデジタル情報にアクセスしやすくなると 考えます。