ディープ フェイク twitter。 今後、社会問題になりそうな「ディープフェイク」Twitterが対策へ動く

Twitterがディープフェイクやチープフェイク対策として削除やラベリングの方針を発表

ディープ フェイク twitter

画像外部リンク ディープフェイク(deepfake)は「(deep learning)」と「(fake)」を組み合わせた(かばん語)で 、にもとづく人物画像合成の技術を指す。 「(GANs)」と呼ばれる技術を使用して、既存の画像と映像を、元となる画像または映像に重ね合わせて()、結合することで生成される。 既存と元の映像を結合することにより、実際には起こっていない出来事で行動している1人あるいは複数人の偽の映像が生み出されることとなる。 そのような偽の映像で、例えば、実際にはしていない性行為をしているように見せかけたり、実際とは異なる言葉やジェスチャーに変更するといった政治的な利用が可能となる。 これらの機能により、有名人のまたはの偽造作成のため、ディープフェイクが使用される可能性がある。 さらに、ディープフェイクは、や悪意のあるを作成するためにも使用され得る。 ディープフェイク [ ] 2017年にインターネット上で、特にでディープフェイクのポルノが初めて現れ 、現在ではReddit、、などのサイトで禁止されている。 2017年秋、"Deepfakes" というののRedditユーザーがインターネットにいくつかのポルノビデオを投稿した。 注目を集めた最初のものは、のディープフェイクだった。 それはまた、よく知られたディープフェイクビデオの1つで、いくつかの記事の中でひときわ目立つものであった。 ほかのディープフェイクとして、継兄弟と性行為をしているを演じた女優の、また、、、、があった。 を使用して作成された、それらのビデオは本物ではなく、ほどなく偽物であることが暴かれた。 時間が経つにつれて、Redditのは偽造ビデオの多くのを修正し、偽物と本物のを区別することが次第に困難になった。 で容易に入手できる女優の非ポルノの写真やビデオは、のための訓練データとして使用された。 ディープフェイク現象は、2017年12月に、雑誌()の技術と科学の欄で初めて報告され、他のメディアでも広く報道された。 2018年12月、頻繁にディープフェイクポルノの対象となっているスカーレット・ヨハンソンが、の取材に対し、以下のように語っている。 用意した声明の中で、彼女はこの現象についての懸念を表明し、インターネットを「自分自身を食べる暗黒の巨大な」と表現している。 しかし、それが自分の公共のイメージに影響を及ぼさないこと、そして国によって法律が異なること、インターネット文化の性質()によりディープフェイクを削除するどのような試みも無駄な努力になること、以上の考えから、彼女は、自分のディープフェイクの削除を試みようとはしないと述べた。 彼女は、自分自身のような有名人は名声によって保護されているが、一般女性にとっては、不本意なポルノやリベンジポルノの描写によって評判が損なわれる可能性のある深刻な脅威をもたらす、と考えている。 英国では、ディープフェイクの製作者をで起訴できるが、ディープフェイクを特定の犯罪に指定することが求められている。 米国では、、、リベンジポルノのようなさまざまなものが告発される、さらに包括的な法令にしていこうとする動きもある。 などのポルノ動画サイトでは、日本人女優やアイドルのディープフェイクの動画があり、が確認しただけでも10個以上は存在し、多いものでは300万回以上再生されているものもあった。 サイバーセキュリティ会社「DeepTrace」の2019年10月の調査によると、過去7か月で1万4678件のディープフェイク動画が確認され、1年で倍増しており、その96%がポルノ動画だった。 ディープフェイクに特化した上位4つのポルノサイトでは、数百人の女性有名人のフェイク動画が、計1億3400万回以上も再生されているという。 政治 [ ] ディープフェイクは、有名な政治家を、ビデオやで、事実と異なるかたちで伝えるために使用されている。 例えば、大統領のの顔はの顔に、そしての顔はの顔に置き換えられた。 トランプがを訪問していた2017年11月に中国企業の ()は流暢なを話して自社とAIを褒めたたえるトランプのディープフェイクを披露して波紋を呼んだ。 2018年4月、とJonah Peretti は、ディープフェイクの危険性に関するとして、を使ったディープフェイクを作成した。 2019年1月、は、(大統領執務室)におけるトランプの演説のディープフェイクを放映し、彼の外観と肌の色をあざけった。 メディア [ ] 中国では国営メディアのがディープフェイクの技術を用いて実在のから合成した世界初の人工知能が開発されており 、政府の重要な会議の報道でも使用された。 この技術はやの国営メディアでも採用されている。 しかし、ディープフェイクは虚偽報道であるを助長させるとして問題視されており 、2019年11月に中国政府はからディープフェイクを使用したフェイクスニュースを禁止することを発表した。 ディープフェイクのソフトウェア [ ] 2018年1月、FakeAppというのが発表された。 このアプリケーションでは、ユーザーが顔を入替えた動画を簡単に作成および共有できる。 このアプリケーションは、フェイクビデオを生成するために、、のパワー、そして3〜4のスペースが必要である。 詳細な情報については、プログラムは、ビデオおよび画像に基づくのを使用して、どの画像アスペクトを交換しなければならないかを学習するため、挿入されるべき人物からの多くの視覚材料を必要とする。 そのソフトウェアは、の-であるを使用する、それは、とりわけコンピュータビジョンのプログラムである()のためにすでに使用されていた。 はそのような偽のセックスビデオの主な標的となっているが、一般の人々も影響を受けている。 2018年8月研究者は、人工知能を使って子供をプロのに置き換えることができるフェイクダンスアプリケーションを紹介する論文を発表した。 2019年8月、中国で1枚の顔写真でディープフェイクを作成できるZAOというアプリケーションが発表されて同年9月にの人気ランキングで1位になるもユーザーの同意なしにデータを使用される可能性があるが物議を醸し 、アメリカでは選挙介入やフェイクニュースに利用される可能性を懸念する声があがった。 フィクションにおけるディープフェイク [ ] ディープフェイクや有名人のフェイクポルノの現象は、 Michael Grothaus による小説「 Epiphany Jones」で探求されている。 この小説は、文学的な、社会、であり、セックス、有名人、インターネット対するアメリカの強迫観念についての暗いである、またポルノ中毒者と神と話すことができると考える女との不本意な関係、およびハリウッドエリートへ性的なを行う業者との交絡を探る内容である。 小説の主人公、ジェリー・ドレスデンは、有名人のフェイクポルノへの中毒に苦しんでいる。 小説で言及されている特定の有名人の偽物には、 、、、、、、が含まれる。 さらに、とといった死亡した有名人の偽物についても小説に記載されている。 批評 [ ] 悪用 [ ] スイスに本社を置く新聞社であるAargauer Zeitung は、人工知能を使った画像やビデオの操作は、危険な大量のメディアがあふれることになる可能性があると述べている。 しかし、画像やビデオの改ざん自体は、やの登場よりもずっと古いものであり、このたびのディープフェイクの場合、新しい側面はそのリアリズムにある。 標的を絞ったやリベンジポルノにディープフェイクを使用することも可能である。 信頼性と信憑性への影響 [ ] ディープフェイクのもう1つの効果は、その内容が標的となった偽物(例えば)なのか本物なのかを区別できなくなることである。 人工知能の研究者であるAlex Champandardは、この技術によって今日のものがどれだけ速く改変され得るか、そして問題は技術的なものではなく、情報との信頼によって解決されるものであるということを、すべての人が知っておくべきであると述べた。 最重要な落とし穴は、描写されているが真実に対応しているかどうかを、もはや判断できなくなる時代に人類が陥る可能性があることである。 インターネットの反応 [ ] やGfycatなどのいくつかのでは、ディープフェイクのコンテンツを削除し、その発行元をブロックすると発表している。 以前、チャットプラットフォームのは、有名人のフェイクポルノビデオのチャットチャンネルをブロックした。 ポルノグラフィのウェブサイトの もそのようなコンテンツをブロックする予定であるが、その禁止を強制していないと報告されている。 Redditでは、2018年2月7日に「不本意のポルノ」のポリシー違反により、subreddit(Redditのサブフォーラム)が一時停止されるまで、初期の状態が削除されないまま残っていた。 2018年9月、グーグルは、誰もが自分の本物あるいは偽物ヌードのブロックを要求でき、その禁止リストに「不本意の合成ポルノ画像」追加した。 参考文献 [ ]• Brandon, John 2018年2月16日. Fox News. 2018年2月20日閲覧。 Schwartz, Oscar 2018年11月12日. The Guardian. 2018年11月14日閲覧。 Highsnobiety. 2018年2月20日. 2018年2月20日閲覧。 The Outline. 2018年2月28日閲覧。 Roose, Kevin 2018年3月4日. The New York Times. 2018年3月24日閲覧。 Roettgers, Janko 2018年2月21日. Variety. 2018年2月28日閲覧。 2018年2月20日閲覧。 Kharpal, Arjun 2018年2月8日. CNBC. 2018年2月20日閲覧。 PCMAG. 2018年2月20日閲覧。 , Motherboard, 2017-12-11 ,• The Washington Post Harrell. 2019年1月1日閲覧。 BuzzFeed. 2020年1月15日閲覧。 az Aargauer Zeitung 2018年2月3日. 2019年1月26日閲覧。 Patrick Gensing 2018年2月22日. 2019年1月26日閲覧。 Thatsmags. com 2017年11月10日. 2019年9月3日閲覧。 2017年12月3日. 2019年9月3日閲覧。 Romano 2018年4月18日. Vox. 2018年9月10日閲覧。 Swenson 2019年1月11日. The Washington Post. 2019年1月11日閲覧。 2019年3月6日. 2019年6月24日閲覧。 2019年3月6日. 2019年6月24日閲覧。 Asia One 2019年6月14日. 2019年6月24日閲覧。 2019年6月18日. 2019年6月24日閲覧。 The Verge 2019年11月29日. 2019年11月30日閲覧。 de ,• heise online, ,• Farquhar, Peter 2018年8月27日. Business Insider Australia. 2018年8月27日閲覧。 The Verge. 2018年8月27日閲覧。 2019年9月2日. 2019年9月3日閲覧。 2019年9月3日. 2019年9月3日閲覧。 2019年9月5日. 2019年9月5日閲覧。 Chopin. nydailynews. com. 2018年12月31日閲覧。 , Die Zeit, 2018-01-26 , ,• Engadget. 2018年4月21日閲覧。 BuzzFeed. 2018年4月21日閲覧。 barbara. wimmer, ,• 2019年1月26日閲覧。 関連項目 [ ]• 外部リンク [ ]•

次の

今後、社会問題になりそうな「ディープフェイク」Twitterが対策へ動く

ディープ フェイク twitter

「イカサマは、ばれなきゃイカサマじゃない」は、ダメ。 ディープフェイクは顔認識などの技術を使い、 顔と顔を入れ替える加工を動画や写真にすること。 たとえば著名人の口の動きを加工し、言ってもいないことを言わせるだとか、性的な写真に有名人の顔を移植するとか、おもに悪意をもって加工された 偽映像のことを指します。 Video: 有名なオバマ元大統領のフェイク映像。 ディープフェイクの認知が広まるきっかけとなった ディープフェイクの技術がさらに進歩し、今後さらに本物と偽物の見分けがつかなくなったとき、 収拾つかない事態になるのは火を見るよりも明らかです。 Twitterがポリシー策定に動く そんななか先日、Twitterは 「改ざん、およびねつ造」された画像や動画への対策としてポリシー策定に乗り出したと。 「改ざん、およびねつ造」されたメディアについて、「 人々に誤解を与える、もしくは本来の意味を変える目的で、大幅に変更された、あるいは作成された写真、音声、または動画」と定義しています。 誤ったメディア拡散からユーザーを保護するため、Twitterは今後、以下アクションをするかもしれないとのこと。 ・ディープフェイクの疑いがあるツイートに フラグをたてる ・シェアやいいねをしようとするユーザに 警告を出す ・なぜそれがディープフェイクとみなされたのか根拠が確認できるように リンクを貼る また、「誰かの 身体的安全を脅かすもの、あるいは別の 深刻な害をもたらす」可能性があるツイートは 削除されることに。 とはいえ、これらはすべて決定事項、というわけではありません。 一般ユーザーから募集「Twitterには、ディープフェイクを削除あるいはラベル付けする責任があるかどうか」 またTwitterはポリシー案を固めるため、一般ユーザーからのフィードバックを募集しています。 「これなんかどう?」というアイデアのあるユーザーは、ハッシュタグでツイートするか、に参加できます。 アンケート記入は、数分で完了します。 アンケートで問われる内容は主に2点で、1つが「Twitterには、ディープフェイクを削除あるいはラベル付けする 責任があるかどうか」という点。 そして、もう1つは「改ざんの恐れがあるコンテンツをシェアしようとするユーザに 警告を出すべきかどうか」ということ。 この2点にどの程度同意(あるいは反対)するのか、評価をつけてもらいます。 期限は日本時間で 2019年11月28日(木)08:59まで。 現時点では、Twitterがどのようにしてディープフェイクを検出、検証するかどうかは不明だそうで、そうした作業を支援してくれるパートナーも募集中だとか。 今後のスケジュールとしては、まず一般募集したフィードバックを検証し、その後に担当チームでトレーニングを開始する予定です。 すでに社会問題になりつつあるディープフェイク インターネット上のディープフェイクは、が圧倒的多数ですが、改ざんされたメディアが2020年の アメリカ大統領選挙に悪用されれば、深刻な影響を与える恐れもあると懸念されています。 今年5月には、の発言をスロー再生加工し、どもっているように見せたフェイク動画が話題になりました。 というのも、 トランプ大統領がこの動画をシェアしたものですから、あっという間に拡散してしまったんですね。 このときの動画はディープフェイクではなく、カット編集で、わざと言葉を詰まらせるような編集をしていたのですが、かなり物議をかもしました。 あと有名なのが、FacebookのザッカーバーグCEOのディープフェイク動画。 Facebookがペロシ議長の動画削除を拒否した直後のものです。 こうした現状をうけて、この2カ月、 で政治目的のディープフェイクが禁止される事態になっています。 Tags :•

次の

ディープフェイク動画を秒で作れるアプリZAOが大人気から大バッシングへ|中国情報局@北京オフィス

ディープ フェイク twitter

最近、テレビやネットニュースでディープフェイクというワードを目にすることが増えてきました。 ディープフェイクとは、AIを活用した高度な画像加工技術や動画編集技術を使って作られた、まるで本物のような偽画像や偽動画のことを指します。 ここだけ聞くと、映画の世界の話のようですが、現在進行形で技術を発達しており、ツイッターや インスタグラムのような見慣れたSNSの中にもディープフェイクは潜んでいます。 明日は我が身というわけではないですが、偽情報に騙されたり翻弄されたりしないためにも、ディープフェイクについて多少なりとも知識を持っておく必要があるかもしれません。 AI技術が発達する中で加速するフェイク動画市場 ディープフェイクの脅威を世間に知らしめたきっかけの一つが、オバマ元大統領を映した以下の動画です。 「トランプ大統領は救いようのないマヌケ」、オバマ元大統領が堂々と語るこの動画ですが、実はコメディアンで俳優のジョーダン・ピール氏とバズフィードが共同で作ったフェイク動画なのです。 2018年の4月に公開されて以降600万回以上再生されているこのフェイク動画、オバマ元大統領の口元をよーく見ると若干不自然な部分が分かると思いますが、一見すると本当にトランプ大統領の悪口を語っているように見えます。 この動画に映るのがオバマ元大統領ではなく自分自身で、貶している相手がトランプ大統領ではなく会社の上司だったら、なんて想像するとその恐ろしさが伝わるかと思います。 実際、ディープフェイクと呼ばれるフェイク動画のほとんどが、誰かをからかったり誹謗中傷したりする目的で使われているそうで、特に多いのがアダルトビデオの女性の顔部分を有名な女性芸能人の顔に置き換えた動画だそうです。 こうした動画は、動画共有サイトで公開され、これまでに合計で1億3400万回を超える再生回数を叩き出すなど、市場は拡大しつつあります。 ディープフェイクが政治を揺るがす?! 冒頭で紹介したオバマ元大統領の動画は、ディープフェイクの脅威を人々に伝えるためのある種のアート作品として発表されましたが、実際にフェイク動画が、民意を動かしたという事例もあります。 それが今年5月、Facebookで公開されたアメリカ、民主党のナンシー・ペロシ下院議長の演説動画です。 その動画を見るとペロシ下院議員の語り口は非常にゆっくりとしていて発音も不明瞭に聞こえ、酔っ払っているかのように見えます。 この動画と共に、ペロシ下院議員がお酒を飲んでスピーチに望んでいた、という趣旨の文言が公開されると瞬く間に拡散し、なんとトランプ大統領の公式 Twitter でもリツイートされたというのです。 しかし、情報が拡散されてしまったため、ペロシ下院議員の元には多くの批判が寄せられたということです。 決してハイテクな編集とは言えないフェイク動画だったとしても、この類のフェイク動画が例えばアメリカの大統領選だったり、日本の衆議院選挙や参議院選の時期に公開されたとしたら、その動画が選挙の結果を大きく左右する可能性もあります。 例えば、このような動画が拡散されたのが投票当日の朝で、投票に行く直前にこの動画を見てしまった人は自分が一票を投じる候補者を変更してしまうかもしれません。 悪用注意、誰もが気軽に映画スターになれるアプリ AIやディープフェイク、なんて聞くと、高い技術力や知識が必要なように感じるかもしれませんが、最近は、誰でも手軽にフェイク動画が作れてしまうアプリケーションやウェブツールなども公開されています。 その中でも特に話題になったのが、中国発のAIを搭載したiOSアプリ「」です。 なんと、このアプリでは、簡単な操作で、スマホで撮影した自分の顔と人気の映画やドラマの登場人物の顔を入れ替えることができるというのです。 Zaoが公開されるとすぐさま大きな話題を呼び、中国のアプリストアの一位に躍り出たということですが、肖像権の問題などから賛否両論を巻き起こしました。 Zaoは、中国でのみダウンロードできますが、日本でもベンチャー企業がフェイク動画アプリを開発しています。 そのアプリというのが「Xpression」というもの。 このアプリはZaoとは異なり、カメラに向かって様々な表情をすることで、動画内の人の顔が、ユーザーの表情と同じように動くというもの。 このアプリを使えば、冒頭で紹介したオバマ元大統領の演説動画のようなフェイク動画が簡単に作れるということです。 独自の表情読み込み技術を高く評価されたこのアプリは、今年9月に2. 3億円の資金調達を行っており、今後の技術のアップデートや新たなサービス展開が予想されています。 ディープフェイクに対抗するために立ち上がるインターネットの巨人たち 手軽なディープフェイクツールが蔓延する一方で、ディープフェイクを見抜く技術も発達しています。 特にGoogleやFacebookといったIT界の巨人たちは、様々な対抗技術を専門とするチームを立ち上げています。 Facebook はマサチューセッツ工科大学と共同でディープフェイクを検出するためのオープンソースのツールを開発するためのプロジェクト「 」を発表していますし、 Google もディープフェイクを見抜くための技術向上に役立ててもらうためにこれまでに収集されたディープフェイクに関する膨大なデータをデータベースとしてまとめて無償で公開しています。 現時点ではディープフェイクツールと、それを見抜くツールのいたちごっこ状態となっていますが、この戦いが最終的にどちらの勝利で終わるのかによってインターネットの未来は大きく変わっていきそうな予感がしますね。 人の心を動かすディープフェイクと共に生きる未来 ここまで、ディープフェイクの負の側面を見てきましたが、ディープフェイク技術を活用して、これまでにない表現も生まれています。 例えば、今年、NHK で放映されたドキュメンタリー番組で、平成元年に亡くなった歌謡界の女王、美空ひばりをデータ上で再現するという取り組みが行われていました。 彼女の歌声はAI技術を用いて再現し、さらに、CGで作成された美空ひばりさんの姿をかたどったインターフェイスも作成。 画面の中で蘇る歌手・美空ひばりの姿に多くの感動の声が集まりました。 このように良くも悪くも人の心を動かしてしまうディープフェイクは、今後、インターネット社会を生きる人々にとって、必要不可欠な知識になって行くと思います。 もしかしたら既に目にしているかもしれないディープフェイクとどう向き合って行くのか、一人一人がきちんと考えなくてはならないのかもしれませんね。 テクノロジーの進化と共に生み出されてくる問題も巧妙化してきています。 本当に信じられるのはオフラインの一次情報のみ、というのがあらゆる問題の結論、なのかもしれません。 【参考URL】 ・ ・ ・ ・ ・ (大藤ヨシヲ) Data Empowermentは、「働くひとのパフォーマンスを最大化するもの」とわれわれは考えています。 データを活用することやデータに基づいた迅速な意思決定・アクションが、 時間を節約し効率化する、クリエイティビティの求められる業務にフォーカスするための力になるからです。 あなたも「Data Empowerment」を実現してみませんか? Data Empowermentは、働くひとのパフォーマンスを最大化するもの」とわれわれは考えています。 データを活用することやデータに基づいた迅速な意思決定・アクションが、 時間を節約し効率化する、クリエイティビティの求められる業務にフォーカスするための力になるからです。 あなたも「Data Empowerment」を実現してみませんか?.

次の