エンジニアはアルゴリズムとAIの取り扱いに注意すべし

2018年11月8日

Jim Harrison 筆者:Jim Harrison
ゲストブロガー、Lincoln Technology Communications

9世紀のペルシャの学者、ムハンマド・イブン・ムーサー・アル=フワーリズミーの学問がなければ、エンジニアは今のように素晴らしいものを実現できていないかもしれません。彼は、西暦780年~850年ごろイラクのバグダードに住んでいました。死後数世紀を経て、ムーサー・アル=フワーリズミーの業績とともに十進法と代数学がヨーロッパにもたらされました。彼の代数学は、すべての科学の基盤の1つと考えられています。

彼の名前をラテン語読みしたものが、アルゴリズムというおなじみの言葉になっています。

この言葉は、最近になって世間の疑惑の目に晒されており、非常に危険な印象を与えています。Googleのような企業の大成功は、ウェブページの検索とランク付けを行うアルゴリズムに基づくものです。現在、テクノロジー企業とそのアルゴリズムが持つ力に、また特定の国家がそれらと同じ方法を使って偽情報による影響を米国民と選挙に与えようと大規模な操作を行っているという報告に、非常に大きな関心が集まっています。

ムハンマド・イブン・ムーサー・アル=フワーリズミームハンマド・イブン・ムーサー・アル=フワーリズミーの著作である「約分と消約の計算の書」は、略してアル=ジャブラ、すなわち代数と呼ばれています。

誰でもアルゴリズムと人工知能(AI)を使えば、他のサイトからニュースを収集し、その情報に特定の視点用のフィルタをかけるウェブサイトを作ることができます。あるいは、十分な資金がある場合、すでに有名になっているウェブサイトを買い取り、そのコンテンツに手を加える方法もあります。いくつかのあいまいな参照と完全な嘘を追加することによって、特にニュースの概要にだけ目を通し、全文を読む時間のない人々に、強力な影響を与えることができます。

エンジニア自身が、検索アルゴリズムとAIに慎重である必要があります。どの企業も、ある製品について人々に宣伝するのではなく、その製品に関するウェブ上の情報を操作し、悪名高い「バズ」を産み出すことによって、製品Xの売上げ増を保証してくれる別の企業があれば、そこにアウトソーシングすることが考えられます。特に、アウトソーシングであるため、経営陣にとってこれは非常に魅力的です。この方法は詐欺の一種です。しかし、ソフト詐欺であり、証明は非常に困難です。

おそらく特定のウェブサイトやTV局は、バイアスのかかっていない情報でない限り、自分たちのコンテンツを「ニュース」と呼ぶことを許されるべきでないでしょう。ニュースとは、本来そういうものです。フィルタをかけられ、バイアスのかかった内容を含むすべてのコンテンツは、ニュースではなく、「観点」や「見解」などと呼ぶべきです。

すべてのソーシャルメディアサイトが、いわゆるフェイクニュースを排除しようとしていますが、それは少なくともある意味では不可能です。投稿が嘘を含んでいたとして、どうやってそれを判別するのでしょう?何が基準になり、正確な境目はどこにあるのでしょう?本当にひどい嘘なら判別できるでしょうが。

もしかすると、進取の気性に富んだエンジニアが、ウェブ全体の「ニュース」をスキャンして嘘の情報を除去するAIプログラムを作るかもしれません。しかし実際、あなたあるいはAIプログラムは、どうやって判断することができるでしょう? 電気技術者(およびジャーナリスト)は、自分たちが伝達、支持、あるいは助長するものについて、非常に慎重になる必要があります。問題に加担してはなりません。

あなたはどう思いますか?本当にうまく偽情報を根こそぎにすることができるアルゴリズムを作ることは可能でしょうか?それは本当に危険ではないでしょうか?何が嘘なのかを、誰が決めることになるのでしょう?