AI(人工知能)ニュース

AIが悪質投稿を削除!ポジティブを見つける「マシュマロ」とは

AIが悪質投稿を削除!ポジティブを見つける「マシュマロ」とはイメージ

AI(人工知能)によって有用でポジティブなコメントだけを表示し、暴言や悪口などのネガティブなコメントをすべて取り除いてくれる……そんなコミュニケーションツールがあったらなんて素敵なことでしょう。

インターネットが普及してから掲示板や質問箱、あるいは普通のサイトでもコメント欄を設けるなど、簡単に情報を発信することができるようになりましたよね。最近ではSNSの普及でスマートフォンなどからいつでも手軽に情報発信を行うことができます。

情報を発信する時はプライバシー保護、また自分のアカウントや自分自身を守るために匿名で投稿することが多いですが、それを逆に利用した心無い人間による誹謗中傷や迷惑な書き込みなどはとどまることを知りません。

礼儀を知らない口調や汚い言葉、攻撃的なコメントや自分勝手な主張の押し付けなど見ているだけで不愉快なメッセージも多いですが、AI(人工知能)によってポジティブなコメントだけを残し、ネガティブなコメントを削除してくれるというメッセージツールがすでに誕生していることをご存知でしょうか。

そこで今回は悪質な投稿やネガティブなメッセージを排除し、ポジティブな投稿だけを抽出できるというコミュニケーションツール「マシュマロ」を紹介していきましょう。

悪意ある投稿を削除する「マシュマロ」

悪意ある投稿を削除する「マシュマロ」イメージ

自分が発信した情報や何気ない一言に対して、突き刺さるような悪意を持ったコメントが返ってきたという経験はありませんか。ネガティブなコメントといっても単なる暴言のこともあれば、発信した情報の細かい点をつついた執拗な悪口、情報の内容とは大きく外れた的外れな主張をえんえんと述べ続けるなど、いろいろなものがありますよね。

もちろんこういったコメントをスルーしてポジティブなコメントだけを拾い上げるというのもひとつの技術ですし、有名人などの多くはそういった技術を身につけているのでしょう。

しかしコミュニケーションツールを使うのは有名人や強いマインドを持つ人ばかりではありませんよね。私のようにちょっと悪口を言われたり、けなされたりしただけでも数日は立ち直れないような、繊細でデリケートなガラスのハートを持っている人も多いことでしょう。

私たちのような人間は悪口どころか、掲示板に書いてあるような礼儀を知らない無遠慮な文章でさえも不愉快であり、見たくはありません。いざコミュニケーションツールを使おうと思っても、ネガティブなコメントが返ってきたらと思うと使うのを躊躇してしまいますよね。

しかし匿名による投稿でありながら、AI(人工知能)によってポジティブなコメントだけを抽出し、ネガティブなコメントを人知れず排除してくれるという画期的なコミュニケーションツールが誕生しました。

それが「マシュマロ」です。

マシュマロを投げるような優しい安全さを追求したというこのコミュニケーションツールとは、いったいどんなものなのでしょうか。実際に使って検証していきましょう。

実際に「マシュマロ」を使ってみよう

実際に「マシュマロ」を使ってみようイメージ

そもそもマシュマロがどんなサービスかというとウェブサイトやブログ、ツイッターなどで発信した情報に対するコメントの中から、AI(人工知能)を使ってポジティブなコメントだけを残して、ネガティブなコメントを排除してくれるというもの。質問箱とも言われますが、もちろん質問だけでなく感想や意見などに対しても有効です。

まずはマシュマロのトップページから新規登録しましょう。メールアドレスで登録することもできますが、ツイッターのアカウントを持っているのであればツイッターのユーザー名とパスワードで登録することも可能です。

登録が完了したら、さっそくメッセージを募集してみましょう。ツイッターに投稿してメッセージを募集することもできますし、マシュマロの専用URLを使うことでウェブサイトやブログ上でもメッセージを募集することができます。さらにQRコードにも対応しており、本など紙媒体からもメッセージを募集することが可能というのですから、なんとも懐が広いですよね。

メッセージが届くと「受信箱」で管理されますが、この時にAI(人工知能)によってポジティブなメッセージだけが残され、ネガティブなメッセージは排除されることになります。

もちろん別の人のウェブサイトやブログ、ツイッターなどからは、登録不要かつ匿名でメッセージを送ることができます

マシュマロのAIは信頼できるのか

マシュマロのAIは信頼できるのかイメージ

そうはいってもAI(人工知能)だって完璧にポジティブなコメントだけを残してくれるわけではありません。特に日本語は言い回し次第で悪口のようには見えない言葉で悪口を表現することもできますから、AI(人工知能)の判断基準をかいくぐってネガティブなコメントが届いてしまうこともありえます

しかしマシュマロはそんな事態に対応すべく、いくつかの優れた機能を搭載しています

まずマシュマロのAI(人工知能)レベルを「ネガティブOK」「普通」「ポジティブオンリー」の3段階から自由に設定することができ、ユーザーのマインドの強さに応じて使い分けることが可能です。

さらに「ミュートワード」を設定することで、嫌なフレーズ自体をシャットアウトすることもできます。たとえば「バカ」と設定すれば、バカというフレーズの入ったメッセージはすべて弾かれるというわけですよね。しかし「バカ貝」「バカ笑い」といったネガティブでないフレーズも対象になってしまいますから、設定には気を付けないといけないかもしれません。

もしネガティブなメッセージが届いてしまった場合、ただ削除するという方法もありますが「スパムとして報告する」という機能もあり、また報告するだけでなく理由も添えることでマシュマロのAI(人工知能)はさらに精度よくポジティブなメッセージだけを届けることができるようになるのです。まさにユーザーによってAI(人工知能)が進化するというわけですよね。

またマシュマロは匿名のサービスのため執拗に悪口を送ってくるユーザーのIPアドレスを特定することはできませんが、同一発信源のメッセージを拒否する機能を備えています。

マシュマロを運営する「合同会社Diver Down」

マシュマロを運営する「合同会社Diver Down」イメージ

マシュマロを運営する合同会社Diver Downは、これまでにツイッターのデータを解析して自由にアプリを作る「アプリ☆メーカー」といったツールを作った会社です。

Diver Down社は、コミュニケーションツールは匿名でありつつも、悪意を持ったネガティブなメッセージを事前に削除してポジティブなメッセージだけを届けることでユーザー参加が増加することに着目。そのためにAI(人工知能)を使ってポジティブなコメントだけを残す機能を搭載したマシュマロの運営を始めました。

今後はマシュマロの機能を外部サービスにも開放し、またポジティブな要素を増やしていくための取り組みにも着手するとのこと。

文章から善悪を判断するAIの可能性

文章から善悪を判断するAIの可能性イメージ

マシュマロは文章から善悪を判断するAI(人工知能)を搭載したコミュニケーションツールですが、IBMのWatsonをはじめとして、文章から善悪などの性格を分析するAI(人工知能)の開発はかなり以前から進められているのです。

Watsonでは言葉や表現から、心理学における5つの個性(強調性や情緒不安定性など)をもとに性格分析を行っており、文章から善悪だけでなく積極性や精神状態などの性格的な部分まで推測することが可能となっています。

もちろん企業ではこのシステムを利用して、広告やマーケティングに活用しようという動きが出てきますよね。ユーザーの性格を把握していれば、そのユーザーにあった商品をおススメすることができるわけですし、ユーザーの反応から感情を読み取ることで重要性や深刻さがどれほどのものかを知ることもできます

しかしマシュマロのようなユーザーの使用感に直接訴えかけるようなAI(人工知能)の使い方は希少ですし、ある意味真のサービスといえるのかもしれません。こういったユーザーに寄り添ったAI(人工知能)の使い方を、いろいろな分野で展開してくれると嬉しいですよね。

AIが悪質投稿を削除!ポジティブを見つける「マシュマロ」とはまとめイメージ

さて、文章から善悪を判断するAI(人工知能)を搭載したコミュニケーションツールであるマシュマロを紹介してきました。

  1. マシュマロはAI(人工知能)によってポジティブなコメントだけを残し、ネガティブなコメントを排除してくれるツールである。
  2. マシュマロはウェブサイトやブログ、ツイッターなどから手軽に参加可能。
  3. 届いてしまったネガティブなコメントをスパムとして報告することで、AI(人工知能)はポジティブなコメントだけをさらに精度よく届けてくれるようになる。
  4. マシュマロを運営するDiver Down社は、外部サービスにもマシュマロの機能を開放する予定である。
  5. 文章から性格分析が可能なAI(人工知能)は以前から開発が進んでおり、多方面での活用が期待されている。

ネガティブなコメントや悪口は実際に多いですし、それが理由でネット上の対人関係に恐怖してしまう人も非常に多いでしょう。匿名であることが理由とされてきましたが、マシュマロは匿名であるというメリットを活かしつつ、AI(人工知能)がポジティブなコメントだけを届けて、ネガティブなコメントを排除するということを可能としています。

これをきっかけに心無い暴言によって傷つくことのない、誰もが気軽に参加できるネット社会になっていくといいですよね。

トップへ戻る
タイトルとURLをコピーしました