どうなっていくんだろうな、生成AI

実写系は流石にどうにかして欲しいわ

— 2025年10月25日

普通に肖像権の侵害だからな

現行法でも対処自体はできるけど数増えていくだろうしなぁ
これでも発展途上だから本格的にヤバくなる前にどうにかしてくれるとありがたいが

ことフェイクニュースに関係するものは重罪にしてもいいと思うわ

生成AIの“実写系だけ”取り締まりますなんて事にはならないでしょ
当然生成AI二次絵にも影響出るわ

本日の反AIスレ

インドだっけ
AI製表記が義務化になったの

>>7

先行者がいるならその結果がどうなるか見てから同じ対策すればいいのかもうちょい変えなきゃならないのかを判断できるから助かるね

岸田みたいなネタで使われるのはいいけどネタ抜きで使われるとやばくね？

そもそも肖像権の侵害が緩すぎるからね

>>10

そん時も言われてたよ

糞コピペじゃなかったらやばかったって

>>5

実在人物に誤認させるっていう明確な線引きが考えられるのに？

sora2の時もなんか声明出してたし何かやってくれそう
現政権には期待してます！

生成AIは資料作り以外の用途は規制すべきだと思うんだよな
生成AIはSNS投稿したらbanするようにしたらいいのに

>>5

いや

倒すなら素直に肖像権の侵害の規制強化の方だろう

AI規制するのは問題の解決にならないからね

>>6

これを反で一括りにするのは頭AIすぎないか？

肖像権や著作権あたりはもっと厳しくするかつ訴えやすくしないとなのかな
一応訴えやすくはもうしたはずだけど

フェイクニュース作りたい放題だから、ガチでヤバいんだよね
特に今マスメディアの信頼が著しく低下してるし

いや普通に実在人物の生成を規制しろよ
そこが規制されても困るの詐欺師かポルノ野郎くらいじゃん

流石に実在の著名人、しかも政治家を使った生成AIを二次と同じ程度の扱いはできん
使い方次第では戦争も起こしかねないレベルだぞ

もう映像が証拠にならない可能性も出てくるんだろうか

>>24

まぁAIの問題じゃないからこれをAI規制に持ってくのは無理筋だけどねぇ

こういう偽広告載せるプラットフォーム側も規制受けそう

こうやってライン越えの繰り返しからの規制、ルールや法律が出来ていくんだろな

>>20

現状の法で不足だからこういうのが出回っちゃってる訳だしな

厳罰化するのか規制するのか知らんけど何かしらは必要だろうな

AI推進派のなかでもこういう悪用は別問題でちゃんと法整備すべき、取り締まるべきって人はいるよね
ただ技術の進歩のためやむを得ないとかAI表記すれば問題ないみたいな方がネット上だと大勢を占めてしまってる

>>23

出たよ

「規制なんかしたら〇〇が叩かれるんだろうな」みたいなすっとぼけたまさしく生成AI儲らしい脅迫

>>26

いやー流石にAI可愛さが過ぎますわ

普通に生成AIの問題だろ

ぺたぺた1にも明確に「AIで作成された」って記述してるしAIお咎めなしって事にはならない

二次元の生成を規制するのを嫌がるのはまぁ理解できるけど実写系まで規制するなってのは意味わからん
ガチでエロコラ作ってる人いる感じ？

こういうネット上で普通に横行してたけどその後規制や罪になったってのは今までだと何があるだろ
広告にPR表記、違法ダウンロード、誹謗中傷、R指定系広告とか…？

総理のフェイクニュース作るとか割と警察が家に来てもおかしくないレベルでやばいことやってるの理解できないのかな

>>26

AIだけの問題じゃないとは思うけどAIが無関係ではないだろ

馬鹿の数が多過ぎて対応しきれないなら蛇口を閉めろってのも一理あるだろ

他人の権利侵害が問題なのであって、AIは手段でしかないからな
権利者本人からの削除依頼に対して迅速な措置と違反者に対するプラットフォーム側からの排除をいかにして充実させるか問題

ただこの手の行為って利益面で見ると短期的には一銭にもならないんで、あんまり人手を割きたくない分野だから
プラットフォーム側の意識次第なんだよな……

>>37

殺人は犯罪だけど、その手段の銃も刃物もきちんと規制されてるじゃん

道具そのものが危険なら規制されるよ

>>39

まあ日本国内にいるとは限らんし…

生成AIシンパの能天気さよ
政府がsoraに堂々と声明出す未来とかも想像してなかったわけでしょ？
想像してない事態なんていくらでも起こる

>>26

AIの問題ではないかもしれないがAI側でストップかける機能は絶対に必要

>>44

悪質なら日本から発信地の国を通じて捜査・逮捕を依頼することはあるんじゃない

>>47

手作業で切り貼りする勢には多少の技術が必要だった

今は技術ゼロの無限にいる無能にでも手軽にできてしまうのが問題なのでは

「倫理フィルタはかけないけどヤバいもん公開して罪に問われても知らないよ」くらいが理想なんだがそうはならんだろうな…かなしい

>>52

じゃあ生成AIもアウトか…？

正直このレベルでもまだマシなくらい悪用法あるんだよなディープフェイク……
戦争やってる国のトップ使うだけでもっと被害出る使い方とか山ほどあるだろ

生成AI絡みでも絵描きが普通に脅迫や殺人予告されたりする時はそんな騒がないのに政治家が似た顔生成された程度だと大騒ぎするよなお前ら
さすがにダブスタじゃない？

最悪包丁一本による犯罪よりも大勢の犠牲出るような一枚を作製できそうよな

ていうかマジで実写系の生成の規制をそこまで渋る理由何なんだよ

いうて去年から似たような事件はあったんだよな…

岸田総理　フェイク動画　#フェイク動画　#偽動画#岸田文雄

これも逆も然りで本物の映像もAI生成だって言い逃れ出来るようにならんか？
こんなん不自然なところも修正されたらAI生成かどうかは悪魔の証明になるだろ

何らかの罪にはならないものにしか使えないorこれは生成AIでフェイクですと分かるようにするのが義務で外したら違法とか、上手いこと個人で遊ぶには問題ない方向で着地せんものか

おれはただシコれればそれで満足なのに世の中には悪人が多すぎる

>>53

それで済むほど人間の倫理観は高くなかったね

いや裏でもやってほしくないわエロ生成なんて

>>63

近い将来完全に区別つけられないものが生成できるようになったら真偽が完全に分かんなくなっちゃいそうなのが恐ろしいわね

人類はとんでもないものを発明してしまったのかもしれない

でも生成AIを使った犯罪行為はわざわざAIを理由にしなくてもその犯罪を理由に捕まえればいいしなあ…

>>65

時代が違えば児ポ愛好してそうだな

偶然実在する誰かに酷似するリスクもあるし、写実系一律禁止もあり得る

前から言われてたけど生成AIで卒業アルバムから好みの子のディープフェイクとか作れるんだろ？
表に出さなきゃ良いとかそういう問題かねコレ

>>56

以前ならこの手のスレの生成AI儲ってもっと苛烈だったよね

複雑な気分だわ

>>71

普通にそれでいいよ

なんか法律的にOKとかそういうのより以前に、人としてどうなのよソレみたいなの多いよな

人間の悪意には底が無いな

>>72

嫌いな奴と野○先輩のディープフェイクも作れるぞ

>>69

でも1を見る限りAI製を明記してるんですよね

まあ実写ができるってことは
気に入らないやつがなんらかの犯罪を犯している動画とか作れるってことだからなぁ…
怖すぎる

>>46

既に裏でべったりなんだから対外向けのパフォーマンスでしょあんなの

だからよぉ
この手の広告系のフェイクで生成AI規制が進むんだったら、確かに致しましたの時点で規制が進んでないとおかしいんだわ

「こんなん詐欺に使われたら最悪」ってのは少し前まで被害妄想扱いされてたからな
「人が死ぬ事件の火種になる」ってのが被害妄想じゃなくなる前に規制してくださいお願いします

>>77

結局それが出来るって事実そのものが人を傷つけると思うのよな

>>51

さすがに技術力の有無は関係ないんじゃない？

その理屈だと手作業で切り貼りして苦労して作ったもんはいいじゃんになるゾ

>>78

ごめんどこだ？

>>75

最近はそういう指摘すると因習村だ！とか言い出す声も増えて困ったもんだ

前も総理大臣勝手に使った下品なやつあったし
即座に対応しないのが悪い
どう考えても悪用するやつ出てくるに決まってるじゃん

>>85

手作業なら許されるなんて話は誰もしてない

>>85

そんなこと言ってない

「理論上は可能」だけど取るに足らない出来だったから強く規制する必要が無かったってだけ

>>67

これ倫理観育ちきってない子どもがちょっとしたからかいのつもりで、とか恋バナの延長で好きな子とキスさせてみた、みたいな軽い気持ちでやらかしそうでこわいんだよね

やられた子もやっちゃった子もかわいそうなことになるかもしれないから

誰でもそれなりに高品質のものが大量に作れるのがAIの利点なんだからこそ
絵だろうが実在人物だろうがやらかし始めてるのが現状でしょうに

AIなのを理由で規制なんてすると「AIでなければやってもいいのか」って声も出てくるのは必然だよな
そして当然そんなわけはない

>>90

もしかして「AIで生成した偽広告」って文字のこといってる…？

>>72

>>77

>>84

だから直ちに規制しろとは思わんけど(ぶっちゃけもう手遅れだろうし)こういうのがチラつくようになったの嫌な世界になったよなぁって感じがある

インターネットの繋がりが必須なこの時代にネット上の情報の真偽が全く信用できなくなる技術ってほんとに発展に繋がるのか？せめてちゃんとギッチギチに規制しないとマイナスだろコレ

生成AIだけ規制すると「じゃあ技術力があって手間暇かければ減刑されるの？簡単になったことで魔が差してとかではなく、明確な意思を持って行ったことなのに？」って話にもなるからなぁ

AIのダメな理由が簡単なわりに精度が高くなってしまったところだからね
新しい危険な道具には規制方法とかを考えるのは当たり前だよねって話

規制はすべきだけど大事なのはどうやって規制していくかだからな
全面規制と声高に叫ぶ方々は真面目に規制の方法を考えてから発言してほしい

映像の真偽がつけられないって犯罪捜査する上でとんでもない大事件じゃない？

別にAIじゃなきゃOKなんて誰も言ってないだろ
タゲ逸らしウザいわ

>>85

そういうことじゃない

技術あるやつ（高レベルなもの作るまでにある程度の苦労や努力が必要）しかできないようなものだったのが興味本位で触る程度の奴でも出せてしまう簡便性に対してだ

もうそろそろネットの情報は信頼できなくなって自分で見聞きした情報の方が信じられるようになってるんかな
データの1番確実な受け渡し方法が手渡しになるように

デマ吹聴した奴をありえん位重罰に課すくらいの事しないと抑止にはならんでしょ

>>90

「AIで生成した偽広告」って「これは偽広告ですよ」って知らしめたりそのまま二次利用されて知らん人が「こいつがこんなことやってた！」って惑わされたりされんように後付けされたもんだぞ馬鹿か

ネット上の有象無象の情報が信頼できた時期なんて一秒もねぇよ

結局争点は「生成AIを使ってるけど何の罪も犯してない人」をどうするかなんだよな
これをほっとくのがAI容認派で捕まえようとするのが規制派なんだ

>>73

急にぱったり消えたしあれ1人でやってたんじゃねえかな

>>121

なんで急に絵師？

>>124

絵師嫌いこじらせた反反AIなんやろ

いつも思うけどなんでツールに憎悪を向けるのか謎
問題は使う人間であって出来た動画がどういうものか、でしかないだろ
というかそういう人って新聞は偏向報道するから信用できないとか信じてるんかな
新聞憎悪も似たようなものだけど

>>104

「容疑者扱いされてる◯◯さんですけど犯行時刻と言われてる時間帯に遠方にいる私の撮ってた動画に映ってました！」

「この☓☓って人が殺人現場の近くにいましたよ！　このドラレコが証拠です！」

みたいなことが起きうるってことか

>>125

ネット上の全部は信用できないのはそりゃ昔からそうだが一瞬で生成できる嘘が氾濫し過ぎて本当と嘘の割合がひっくり返っちゃった感はある
世界にはこんなことがあるんだと思えずにへ〜AIも進化したもんだなになるのが今のネット

>>127

そりゃもう何件同じような事件起きてんだって話よ

別に生成AIが嫌いじゃなくてもさすがに危機感持つわ

>>127

言うて銃や核を憎む人間だって一定数あるし

使い方次第でとんでもない被害を生みかねないなら

ツールそのものが憎まれてもしょうがないわよ

>>117

それを持ち出すと「自動車は年何百人もの死者を出してるけど、現状の規制がそれ以上強くなる気配がない」って話になる

つまり法規制による社会のメリットとデメリットが「死者が何百人も出る」場所で釣り合うケースは存在し得るわけで

生成AIがそういう自動車に近い立場の技術になるというのは普通にあり得る（この辺は完全に政治が絡むんだが）

>>134

そりゃこんなもん素人が作れるのが生成AI以外ねぇから

つか何の対策もしないどころか補助金まで突っ込んでたのに自分が被害受けたらこれか
考え甘すぎだろ

そうだね

規制しなければいけない理由が>>139に詰まってると思うけどねぇ

>>138

多分自動車を引き合いに出すと「だから自動車みたいにAIも免許制にしろよ」って返ってくる

この辺はもうテンプレだな

いつまで生成AI嫌いは絵師だけって幻想と戦ってんだよ

>>127

問題は使う人云々言うても結局この手の事をしでかすクズの割合なんて変わらんのですよ

何が起こるかは何を与えるかでしかない

>>100

別に減刑はされなくない？

単にこんな動画バカスカ作られたら危ないから規制も必要かもねって話で

>>146

生成AI好きは絵師嫌いだけって幻想と戦ってるからおあいこやな

そのツールが悪くないっつっても悪用に対してノーガードなんだったらツールごと嫌われるよやっぱり

>>144

だったらインターネットに絵や写真を投稿する事を免許制にしようねってなる

無免許AI利用は悪魔の証明になりかねんけど無免許投稿は明確だから

>>150

へたくそなオウム返しやな……

>>152

そいつら規制されてるじゃん？

>>13

その線引きが面倒でな

絵はイラストだけど声は本物に近づけてるとかその逆とか後はちょっとここの部分が本物とは分けてますので肖像権は侵害してませんよとかされると面倒くさいのよ

だったら生成AIそのものを規制した方が楽って考えもそりゃ出てくる

それだったら許可してない生成AI使ってる奴らをしょっ引けばいいしな

>>146

だけとは言わんけど一大勢力ではあるだろ

普通犯罪ってのは手間暇をかけただけ悪質性が高いとされるんだけど、AIの使用を理由に厳罰化すると手作業という手間暇をかけたのにAI使用時よりも刑が軽くなるという逆転現象が生じちゃうんだよね

>>156

人ぶん殴って金奪ったら強盗で懲役刑だけど殺して奪ったら強盗殺人で死刑だから強盗は強盗殺人に対して減刑されてるみたいなこと言ってるんだけどおかしいと思わん？

減刑じゃなくて併合罪だぞ

>>159

それで騙される人って写真で作ったお面付けた物真似芸でも騙せそう

>>169

どうかなぁ

生成AI儲の言ってる事あんま当たらないし…

>>174

巻き込むも何も、資格の確認なしに画像を投稿できる場所がある以上生成AIの規制はほぼ不可能と言ってるんだが…

生成AIが基本的にパチモン作るのに特化しすぎなんよな

>>165

AIってその手間暇を短縮するためのツールだから割と妥当な気もするけどな

出力結果にそう違いはなさそうだし

マジでアレコレ屁理屈で話逸らしてこういう詐欺擁護するのってなんの意味あるの？

>>188

規制の内容次第では生成AIで詐欺行為してない人にも被害が行くってわからんか？

ただの絵描きにどんだけコンプレックス持ってんだよ

>>191

そりゃツール自体にそういう機能があるんならまとめて規制だろ

犯罪被害が生まれないことが第一よ
そのために規制が必要ならするべき