AI時代の著作権と倫理 ~ AI音声合成アプリCotoVerseから考える今後の指針

AI時代の著作権と倫理 ~AI音声合成アプリ CotoVerse から 考える今後の指針~ BlendAI https://twitter.com/BlendAIjp

• https://twitter.com/BlendAIjp

製品紹介

前回のおさらい

・日本初のAI特化型キャラクター ・AIを利用すれば、二次利用自由なキャラクター ・リリースから3ヶ月で3,000個を超える二次創作

問題意識 生成AIコンテンツには、常にリスクが付きまとう 1. 法的リスク（主に著作権） 2. 倫理的リスク（AIに反対する勢力） → 訴訟、誹謗中傷 等のリスクがある → 「安易に生成AIを使えない」現状

デルタもんがどのように課題を解決するか 1. 2. 3. 4. 5. AI の利用を義務化 AI に関する利用を幅広く許可 する 二次利用コンテンツも AI に利用できる 特定のアーティストに紐づいていない 公式が二次創作の素材を積極的に提供している

多くのデータセットが揃えられる デルタもんに続いて、24キャラギリシア文字モチーフで出す。24キャラ は全て別の作家、別の声優を採用する。 ● 二次利用により、様々な画風の追加学習用素材が揃う ● 様々な声質の素材が揃う ○ これらを研究やビジネスに幅広く利用することができる → 法的・倫理的問題の解決

声 x AI の今後

「合法だから問題ない」は長期的に通用しない ● 音声合成技術を含め、AIを「なかったこと」にするのは不可能 ● 法律がどうであれ「学習・生成は合法」として声優や著名人の声を無断 利用するのは、社会的に許容されない ○ ディープフェイク、ポルノ、誹謗中傷、イメージの破壊 等 → 合法・違法を問わず、将来は「許諾制」となることは確実

「声の印税」を支払う ● 声の学習モデルは、一度完成してしまえばあらゆることを会話させられ る ● VOICEROID、VOICEPEAK、VOICEBOX 等の既存製品と比べて明 らかに質が高く、これからも向上していく ● 多言語対応も日本語音声だけで実現可能 → 従来のように「買い切り」は不可能。「使った分／収益に応じて払う」と いう印税モデルに転換する

CotoVerse における対応状況

声優との契約概要 緑 = 従来型契約 青 = 将来型契約 ● ● ● ● ● 収録文字数 or 拘束時間に応じて報酬を支払う 利用範囲と有効期間を定義する 学習モデル作成を許諾する条項を入れる 一般ユーザが利用できる場合、生成禁止条件を定めておく 目的外利用を禁止 or 別途許諾が必要な確認をする ○ 合意できる場合、ベースの条件(印税率等)を定めておく

学習モデル作成を許諾する条項を入れる ● 通常の声の利用許諾に加え、学習モデル作成の利用許諾も必要 ○ 法律的には不要かもしれないが、トラブルを避ける為 ■ そもそも生成が前提となっているので法律的にもグレー ● 著作権、パブリシティ権(キャラがいる場合)、etc 許諾なしにやると間違いなく炎上し、業界から徹底的な反発にあう

生成禁止条件(BlendAI の場合)（１） ● わいせつな内容（R-18およびR-18G。映画倫理機構の R18+ における性的 表現と同等の基準） → R-18およびR-18G に該当しない程度であれば性的表現は可。 ● 特定の人物（公人や著名人含む全ての人。遺族が存命の故人も含む）、団 体、法人、自治体、国家、非実在キャラクターへの非難、誹謗中傷 → 「ざぁこ💚ざぁこ💚」「あんたバカぁ？」など、対象が特定されていない 場合は可。 ● 特定の人物（公人や著名人含む全ての人。遺族が存命の故人も含む）へ のプライバシー侵害

生成禁止条件(BlendAI の場合)（２） ● 過度に攻撃的、暴力的、非倫理的なもの ● 声優の尊厳を否定するもの ● 公序良俗に違反するもの → 違法な薬物の作り方、違法行為の行い方、犯罪の隠蔽方法 等（これに 限られない） ● ディープフェイクの作成 → フェイクニュース、デマ、プロパガンダ、詐欺、いじめ、児童ポルノ、フェイ クポルノ、リベンジポルノ 等（これに限られない）

「フィルタして出せないようにする」は難しい 「NGワードを定義して出せないようにする」は難しい ● 表現の幅を縮め、使いづらくなる ○ 「VOICEROID 東北ずん子」はNGワードが多く、人気がなかった ● いくらでも抜け道があり効果が薄い ● 日本語は英語のように区切りが明らかではないので、禁止すべきでないフ レーズが禁止されてしまう ○ 「商品を１万個生産する」「ガチンコで勝負」等が卑猥な音声を含むとし て規制されてしまう。 → 「技術的には生成可能、規約では禁止」とするのが望ましい

無償・無許諾利用が可能な条件 緑 = 業界の慣例で無償・無許諾利用が認められていることが多いもの 青 = BlendAI が特別に無償・無許諾利用を許可しているもの ● ● ● ● ● 非営利目的の利用 Youtube等、動画投稿サイトへの投稿目的での利用 AIの研究開発目的の利用 ハッカソンやコミケ等、オフラインイベントでの利用 売上が年間100万円を超えない事業に関する利用 ○ スタートアップ、スモールビジネス、同人サークル等を想定

BlendAI は多くのデータセットが揃えるのが目的 デルタもんに続いて、24キャラギリシア文字モチーフで出す。24キャラ は全て別の作家、別の声優を採用する。 ● 二次利用により、様々な画風の追加学習用素材が揃う ● 様々な声質の素材が揃う ○ これらを研究やビジネスに幅広く利用することができる → 法的・倫理的問題の解決

まとめ ● AIボイスが社会に受け入れられる為には以下が必須 ○ 明示的な学習許諾 ○ 声優への印税支払い ○ 生成禁止条件の設定 ● BlendAI は上記のいずれも解決している ○ 将来的に24種類のAIフレンドリーな声 が揃う

• https://docs.google.com/forms/d/e/1FAIpQLScFHF6spZaJB-K6qdl0LoltTTQ-VmY4x1oAZckytoKwDFAxIQ/viewform