先日、ふとスマホで動画を見ていて、手が止まりました。
画面の中で、ある有名人がにこやかに何かを語っているんです。表情も自然、声のトーンも本人そのもの。「へえ、こんなこと言うんだ」と思って見ていたら、あとで「それ、AIで作られた偽物らしいよ」と知りました。
正直、全然わかりませんでした。
「見ればわかる」が通用しなくなった
少し前まで、偽物の映像や音声には、どこか不自然さがありました。口の動きがズレていたり、声がロボットっぽかったり。
でも今は、そのズレがほとんど消えています。写真1枚と数十秒の音声があれば、本人そっくりの顔と声ができてしまう。技術としてはすごいことなんですが、使い方次第では、とても怖いものになります。
怖いなと思ったこと
私が特に怖いと感じたのは、次の3つです。
1. 家族や友人の声で電話がかかってくるかもしれない
「俺だよ、ちょっとお金困ってて」という電話が、本当に息子や孫の声だったら。冷静に疑える自信は、正直ありません。
2. 「証拠」が証拠でなくなる
動画や録音は、これまで「本当にあったこと」の強い裏付けでした。それがAIで作れるとなると、本物なのに「どうせAIでしょ」と疑われる可能性まで出てきます。
3. 自分の顔や声が勝手に使われるかもしれない
SNSに載せた写真や動画の声が、素材になることもあるそうです。何気なく投稿しているものが、知らないところで使われる。想像するとゾッとします。
私なりに気をつけようと思ったこと
怖がってばかりでも仕方ないので、自分にできることを考えてみました。
- お金や個人情報の話が出たら、一度電話を切って自分からかけ直す
- 家族の間で、本人確認用の「合言葉」を決めておく
- 衝撃的な動画ほど、すぐ信じず、すぐ拡散しない
- SNSに載せる顔写真や声入りの動画は、少しだけ慎重に選ぶ
特に合言葉は、今日からでもできる対策だなと思います。ちょっと照れくさいですけどね。
便利さと怖さは、セットでやってくる
もちろん、AIの技術そのものが悪いわけではありません。亡くなった人の声を残したり、声を失った人が自分の声で話せるようになったりと、心温まる使い道もたくさんあります。
ただ、便利になった分だけ、「見たものを疑う目」を持たなければいけない時代になったんだなと実感しました。
目に見えるもの、耳に聞こえるものが、必ずしも本物とは限らない。ちょっと寂しい話ですが、これからの時代を生きるうえでの新しい常識なのかもしれません。
皆さんは、AIで作られた偽物に「騙されそうになった」経験、ありますか？
ここまで読んで頂き、ありがとうございます
PR
コータのAmazonページへ
コータのAIイラスト、Xページへ
コータのユーチューブページへ
よろしければ、
のぞいてみてください
0 件のコメント:
コメントを投稿