1.7K Views
July 16, 24
スライド概要
Generative Ai Study Group Master
AI時代の著作権と倫理 ~AI音声合成アプリ CotoVerse から 考える今後の指針~ BlendAI https://twitter.com/BlendAIjp
製品紹介
前回のおさらい
・日本初のAI特化型キャラクター ・AIを利用すれば、二次利用自由なキャラクター ・リリースから3ヶ月で3,000個を超える二次創作
問題意識 生成AIコンテンツには、常にリスクが付きまとう 1. 法的リスク(主に著作権) 2. 倫理的リスク(AIに反対する勢力) → 訴訟、誹謗中傷 等のリスクがある → 「安易に生成AIを使えない」現状
デルタもんがどのように課題を解決するか 1. 2. 3. 4. 5. AI の利用を義務化 AI に関する利用を幅広く許可 する 二次利用コンテンツも AI に利用できる 特定のアーティストに紐づいていない 公式が二次創作の素材を積極的に提供している
多くのデータセットが揃えられる デルタもんに続いて、24キャラギリシア文字モチーフで出す。24キャラ は全て別の作家、別の声優を採用する。 ● 二次利用により、様々な画風の追加学習用素材が揃う ● 様々な声質の素材が揃う ○ これらを研究やビジネスに幅広く利用することができる → 法的・倫理的問題の解決
声 x AI の今後
「合法だから問題ない」は長期的に通用しない ● 音声合成技術を含め、AIを「なかったこと」にするのは不可能 ● 法律がどうであれ「学習・生成は合法」として声優や著名人の声を無断 利用するのは、社会的に許容されない ○ ディープフェイク、ポルノ、誹謗中傷、イメージの破壊 等 → 合法・違法を問わず、将来は「許諾制」となることは確実
「声の印税」を支払う ● 声の学習モデルは、一度完成してしまえばあらゆることを会話させられ る ● VOICEROID、VOICEPEAK、VOICEBOX 等の既存製品と比べて明 らかに質が高く、これからも向上していく ● 多言語対応も日本語音声だけで実現可能 → 従来のように「買い切り」は不可能。「使った分/収益に応じて払う」と いう印税モデルに転換する
CotoVerse における対応状況
声優との契約概要 緑 = 従来型契約 青 = 将来型契約 ● ● ● ● ● 収録文字数 or 拘束時間に応じて報酬を支払う 利用範囲と有効期間を定義する 学習モデル作成を許諾する条項を入れる 一般ユーザが利用できる場合、生成禁止条件を定めておく 目的外利用を禁止 or 別途許諾が必要な確認をする ○ 合意できる場合、ベースの条件(印税率等)を定めておく
学習モデル作成を許諾する条項を入れる ● 通常の声の利用許諾に加え、学習モデル作成の利用許諾も必要 ○ 法律的には不要かもしれないが、トラブルを避ける為 ■ そもそも生成が前提となっているので法律的にもグレー ● 著作権、パブリシティ権(キャラがいる場合)、etc 許諾なしにやると間違いなく炎上し、業界から徹底的な反発にあう
生成禁止条件(BlendAI の場合)(1) ● わいせつな内容(R-18およびR-18G。映画倫理機構の R18+ における性的 表現と同等の基準) → R-18およびR-18G に該当しない程度であれば性的表現は可。 ● 特定の人物(公人や著名人含む全ての人。遺族が存命の故人も含む)、団 体、法人、自治体、国家、非実在キャラクターへの非難、誹謗中傷 → 「ざぁこ💚ざぁこ💚」「あんたバカぁ?」など、対象が特定されていない 場合は可。 ● 特定の人物(公人や著名人含む全ての人。遺族が存命の故人も含む)へ のプライバシー侵害
生成禁止条件(BlendAI の場合)(2) ● 過度に攻撃的、暴力的、非倫理的なもの ● 声優の尊厳を否定するもの ● 公序良俗に違反するもの → 違法な薬物の作り方、違法行為の行い方、犯罪の隠蔽方法 等(これに 限られない) ● ディープフェイクの作成 → フェイクニュース、デマ、プロパガンダ、詐欺、いじめ、児童ポルノ、フェイ クポルノ、リベンジポルノ 等(これに限られない)
「フィルタして出せないようにする」は難しい 「NGワードを定義して出せないようにする」は難しい ● 表現の幅を縮め、使いづらくなる ○ 「VOICEROID 東北ずん子」はNGワードが多く、人気がなかった ● いくらでも抜け道があり効果が薄い ● 日本語は英語のように区切りが明らかではないので、禁止すべきでないフ レーズが禁止されてしまう ○ 「商品を1万個生産する」「ガチンコで勝負」等が卑猥な音声を含むとし て規制されてしまう。 → 「技術的には生成可能、規約では禁止」とするのが望ましい
無償・無許諾利用が可能な条件 緑 = 業界の慣例で無償・無許諾利用が認められていることが多いもの 青 = BlendAI が特別に無償・無許諾利用を許可しているもの ● ● ● ● ● 非営利目的の利用 Youtube等、動画投稿サイトへの投稿目的での利用 AIの研究開発目的の利用 ハッカソンやコミケ等、オフラインイベントでの利用 売上が年間100万円を超えない事業に関する利用 ○ スタートアップ、スモールビジネス、同人サークル等を想定
BlendAI は多くのデータセットが揃えるのが目的 デルタもんに続いて、24キャラギリシア文字モチーフで出す。24キャラ は全て別の作家、別の声優を採用する。 ● 二次利用により、様々な画風の追加学習用素材が揃う ● 様々な声質の素材が揃う ○ これらを研究やビジネスに幅広く利用することができる → 法的・倫理的問題の解決
まとめ ● AIボイスが社会に受け入れられる為には以下が必須 ○ 明示的な学習許諾 ○ 声優への印税支払い ○ 生成禁止条件の設定 ● BlendAI は上記のいずれも解決している ○ 将来的に24種類のAIフレンドリーな声 が揃う