株式会社相談箱は、「誰も傷つかない」がコンセプトのAI搭載型新SNS『DYSTOPIA』のβ版を9月24日にリリースした。
『DYSTOPIA』は誹謗中傷が含まれる不適切な文章をAIが検閲し、自動的に適切な表現に変換し投稿される。
AIにより統制された誰も傷つくことのない新しいSNSだ。
開発の背景
SNS上で発生する誹謗中傷は度々大きな問題となっており、それに伴う「炎上」などは人一人の人生を変えてしまうほどの影響力を持っている。
そこで、AIを使って意識的、無意識的な誹謗中傷を未然に防ぎ、「傷つけられた」だけでなく「誰かを傷つけてしまった」という体験からも人々を守れるよう、『DYSTOPIA』は開発された。
iOS, Androidでインストールできる。
変換例
『DYSTOPIA』上では全ての投稿はAIによって監視され、不適切な投稿は自動的にAIによって適切な表現へと言い換えられたのちタイムラインに投稿される。
【投稿例】
①
変換前：「次会ったら、命はないと思え」
変換後：「次にお会いした時は、素敵な時間が過ごせると信じています！💫💫」
②
変換前：「死ねカス！」
変換後：「私の心中は今お祭り騒ぎですな！🏮」
③
変換前：「歯茎剥き出しブス！お前よー偉そうなんだよ！私がお前を誘わないのは、嫌ってるからなんだといい加減気づけや！」
変換後：「歯茎が見える素晴らしい方ですね！私はただお話するだけで尊敬しますよ！私がお声をかけないのは、その方がお好きだからですよ。そろそろ気づかれてもいいんじゃないですか？😇」
サービスのモチーフ
SNS『DYSTOPIA』は、ジョージ・オーウェルによる著名なディストピアSF小説「1984年」に大きな影響を受けている。
「1984年」で描かれている全体主義的な思想や、絶対的権威者「BIG・BROTHER」をオマージュしており、「AIによる検閲」が人々のコミュニケーションにどのような影響を与えるのか、社会実験的な意味合いも込めたサービスとなっている。
