JA Westenberg
Oct 21, 2025 • 9 min read
自分の文章を中心としたコミュニティの構築を考え始めたとき、私はまず合理的な人間なら誰でもするようなことをしました。つまり、他の人たちが何をしているかを調べたのです。いたるところにDiscordサーバーがありました。より「真剣な人々」向けにはSlackワークスペースがあり、時折subredditもありました。誰もがその公式を理解しているように見えました。その公式とは、最も多機能で、モバイルアプリが優秀で、新規メンバーの参加障壁が最も低いプラットフォームを選ぶ、というものでした。
私はもう少しでDiscordを選ぶところでした。サーバーの設定を半分まで終わらせていました。さまざまなトピック向けのチャンネルを設計し、ロールを設定し、ウェルカムメッセージの下書きまで作っていました。そこで立ち止まり、最初から自明であるべき問いを自分に投げかけました。自分が構築しているこの空間を、実際にコントロールしているのは誰なのか、と。
その答えは、私を不快にさせました。そこで代わりにDiscourseを選んだのですが、その理由をお伝えしたいと思います。ただしその前に、あるコーディングブートキャンプの話、マーク・ザッカーバーグとのリスクゲームの話、そしてRedditのモデレーションがどのようにして2,350万ドル規模の企業を壊滅させたかについてお話しする必要があります。
CodesmithとモデレーターをめぐるThe Curious Case
2019年、マイケル・ノバティはFormationという開発者向けブートキャンプ・研修会社を共同創業しました。ノバティの経歴は申し分ないものでした。Facebookの初期エンジニアであり、プリンシパルレベルの人材で、ザッカーバーグと戦略ボードゲームをプレイし、リスクで自分の上司を裏切ることから何故か友情を育んだ人物です（本人がこの話を、どうやら誇らしげに語っています）。Formationはアンドリーセン・ホロウィッツから400万ドルを調達しました。どの観点からも、ノバティは競争ゲームのやり方を理解していました。
ある時点で、ノバティはコーディングブートキャンプ業界の主要Redditコミュニティであるr/codingbootcampのモデレーターになりました。他のモデレーターたちは事実上活動していませんでした。つまり、ブートキャンプ会社の共同創業者であるノバティが、将来の受講生がブートキャンプを調べるための主要なオンラインフォーラムをコントロールするようになったのです。
インセンティブ構造について少しでも考えたことがある方なら、この先の展開が見えてくるでしょう。
ノバティの主要な競合の一つが、Codesmithでした。これはウィル・センタンスが創業したブートキャンプで、彼の経歴は教育学にあり、両親も教師でした。どの観点から見ても、Codesmithは優良なブートキャンプの一つでした。学生の成果は良好で、厳格な選考プロセスがあり、人生が変わったと語る人々の本物の体験談もありました。最盛期の売上は2,350万ドルに達しました。
そして攻撃が始まりました。
487日間にわたって、ノバティはRedditにCodesmithに関する否定的な投稿を425件行いました。1日あたり0.87件の否定的投稿になります。1年以上にわたって、ほぼ毎日1件の攻撃が行われた計算です。投稿の中には、CodesmithをNXIVM（ドキュメンタリー「The Vow」に登場するセックスカルト）と比較するものもありました。従業員のえこひいきを非難するものもありました。無害な履歴書アドバイスを詐欺に関する大きな陰謀論に仕立て上げるものもありました。ある学生が「Codesmithは私の人生を変えた」と絶賛するレビューを投稿すると、ノバティはそのような体験談はカルトメンバーから聞くものと似ていると返信し、もっともらしい否定性を保ちながら疑念を植え付けました。
その結果、今日「Codesmith」をGoogleで検索すると、2番目の結果は「Codesmithはとんでもない金の無駄だ」というタイトルのRedditスレッドになっています。ChatGPTにCodesmithが良いブートキャンプかどうか尋ねると、同じRedditスレッドや陰謀論を吐き出します。Codesmithの売上は80パーセント減少しました。ウィル・センタンスはCEOを退任しましたが、攻撃は続きました。従業員は離職し、メンタルヘルスの問題を抱える人も出ました。優れた成果を上げた学生たちは自身の体験を投稿することを恐れるようになりました。
このすべてが、Redditという、善意で行動するボランティアモデレーターによって統治される本物のコミュニティフォーラムとして自らを位置づけるプラットフォームで起きました。そして技術的には、ノバティは明示的なルールを何一つ違反していませんでした。彼はただ、自分がコントロールするプラットフォームを通じて競合他社の評判を組織的に破壊していた、非常に活発なモデレーターだっただけです。
不透明なモデレーションという誘惑
Codesmithの話で最も私を悩ませるのは、それがRedditについての話では本質的にないということです。Redditはただ、このやり口が明らかになった最初のプラットフォームに過ぎませんでした。それを可能にした構造はどこにでも存在します。
Discordサーバーも同じ問題を抱えています。誰かがサーバーを所有しています。その人物がモデレーターを任命します。そのモデレーターはメッセージを削除し、ユーザーをBANし、ほぼゼロの説明責任でナラティブを形成することができます。自分のコミュニティを誰か他の人のDiscordサーバー上に構築すれば、その人の気まぐれに従属することになります。自分自身のDiscordサーバー上にコミュニティを構築すれば、あなたは他の全員に対して同じ権力を持つことになり、相手にはあなたが何をしているかを確認する手段がありません。
Slackは有料で利用している場合には若干ましですが、モデレーションのモデルは同一です。誰かが管理者権限を持っています。その人物はすべてを見ることができ、何でも削除でき、何が起こったかの公開記録はありません。透明性はゼロです。
subredditでさえ、少なくとも公開されているという利点はありますが、同じ根本的な問題を抱えています。モデレーションの権力は集中していて不透明です。専門ツールを使わない限り、どの投稿が削除されたかはわかりません。モデレーターが説明したいと思わない限り、なぜ誰かがBANされたかもわかりません。そして上位のモデレーターがコミュニティを特定の方向に誘導し始めると、事実上誰もそれに対して何もできません。
これは以前よりも重要な問題になっています。私たちは、これらのプラットフォームが権威ある情報源として扱われる情報エコシステムを構築してしまいました。GoogleはRedditのスレッドを検索結果の上位に表示します。LLMはDiscordのログやSlackのアーカイブを学習データとして使っています。「オンラインコミュニティ」と「真実の源」の境界線が溶けてしまったのです。モデレーターがこれらのプラットフォーム上でナラティブを形成するとき、もはや小さなユーザーグループに影響を与えているだけではありません。全員が飲む井戸を汚染しているのです。
共和政がフォーラムに教えてくれること
ローマ人にはcursus honorumという概念がありました。野心のある男たちが昇っていく公職の序列です。いきなりトップに飛び上がることはできませんでした。まず下位の行政官職を歴任し、実績を積み、能力を示し、同僚の信頼を得る必要がありました。このシステムは完璧ではありませんでした（共和政がどのように終わったかを考えれば明らかです）が、ある重要な洞察を体現していました。権力は可視化され、説明責任があり、実証された信頼性を通じて獲得されるべきだということです。
現代のプラットフォームモデレーションには、これらの特性が一つもありません。誰かがDiscordサーバーを作成すると、即座にその絶対的な権力を持ちます。誰かがRedditのモデレーターになるのは、偶然か、お願いするかのどちらかで、突然何千人ものコミュニティをコントロールするようになります。実績は要求されず、説明責任の仕組みもなく、プラットフォームの利用規約を特に悪質な形で違反しない限り、悪意ある人物を排除する方法もありません。
私たちが構築したのは、つまるところ、コミュニティを装った小さな独裁制のシステムです。
自分のコミュニティをどこにホストするかを決める際、私はこのことを深く考えました。見てきたどのプラットフォームも同じ基本構造を持っていました。集権的なコントロール、不透明なモデレーション、たまたま権力を握った人物の善意以外に説明責任の仕組みがない。そして私はずっと考えていました。ここに何かを構築するということは、私が常に慈悲深い独裁者であり続けると信頼してほしいと人々に求めることだ、と。しかし私はそもそも、慈悲深かろうとそうでなかろうと、独裁者になりたくないのです。
Discourseが異なる理由（そしてそれが重要な理由）
Discourseは完璧ではありません。完璧なプラットフォームは存在しません。しかしDiscourseには、Codesmith式の攻撃を行いにくくする構造的な特徴があります。
第一に、そして最も重要なこととして、すべてがデフォルトで公開されています。モデレーターが何か行動を取れば、記録が残ります。投稿が削除されると、目に見える痕跡が残ります。誰かがBANされると、コミュニティにはそれが起きたことが見えます。これは悪いモデレーションを防ぐわけではありませんが、可視化します。それがある程度の説明責任を生み出します。
第二に、Discourseにはトラストレベルシステムが組み込まれています。ユーザーは参加実績に基づいて時間をかけて特権を獲得します。これはモデレーションが要求する人に渡されるだけのものではないことを意味します。一般的なコミュニティメンバーも投稿にフラグを立てることができ、十分な数の信頼されたユーザーが何かにフラグを立てると、モデレーターのレビューを待つ間、自動的に非表示になります。権力は集中するのではなく、分散されます。
第三に、プラットフォーム全体がオープンソースです。私がフォーラムを運営する立場を本当に悪用した場合、誰でも私が何をしているかを正確に確認できます。事態が十分に悪化すれば、誰かがコミュニティ全体をフォークして別の場所で再出発することもできます。核のオプションが存在するということは、私は信頼を維持するための本物のリスクを負っているということです。
しかしここで何度も立ち返るのは、これらの技術的な特徴は、それが可能にする文化よりも重要ではない、ということです。Discourseは、可視的な規範と説明責任のあるリーダーシップを持って、公開の場で運営したいコミュニティのために設計されています。DiscordとSlackは、社会的ダイナミクスがグループの判断に委ねられるプライベートグループのために設計されています。どちらが本質的に優れているわけではありませんが、最適化している対象が異なります。
私は公開の場で何かを構築したかったのです。モデレーションの決定が可視化される場所を。権力が分散された場所を。もし私がいつかマイケル・ノバティのようになり、知覚された敵を組織的に攻撃してコミュニティを個人的な恨みのために歪めていたとしたら、誰もがそれが起きているのを見ることができ、反論するツールを持てる場所を。
デジタル・コモンズの問題
ここには、私たちがオンライン空間についてどう考えるかという、より広い問題があります。私たちは実物のコミュニティの言語を持ち込み、「パブリックスクエア」や「集いの場」や「タウンホール」といった言葉を使っています。しかし実際のプラットフォームの構造は、タウンホールとは似ても似つかないものです。それはむしろ、人々が集まるベンチがある、たまたまショッピングモールに近いものです。その空間は私有されており、ルールは恣意的で、管理側はいつでも何らかの理由で追い出すことができます。
これはコモンズの悲劇を逆にしたものを生み出します。過剰利用によって共有資源が枯渇するのではなく、集中したコントロールによって共有の社会的資源が腐敗していきます。コミュニティは参加を通じて価値を創造しますが、プラットフォームとそのモデレーターはその価値を搾取したり、歪めたり、破壊したりすることができます。
Redditのモデルは特にこの点で狡猾です。プラットフォームは、コミュニティの一員に過ぎないボランティアモデレーターによって民主的に統治されているとして自らを位置づけています。しかしそれらのモデレーターは、最小限の監視しか受けないまま広範な権限を持っており、Redditの管理者は、PRの問題になるほど事態が悪化しない限りほとんど介入しません。得られるのは、参加型のように感じられるが、モデレーターになるために時間を投資し、その地位を悪用する意欲がある人間に乗っ取られる可能性のあるシステムです。
Codesmithの状況が注目に値するのは、それが稀有なことだからではなく、可視化されたからです。他にどれだけ多くのsubredditが、未開示の利益相反を持つ人物によって密かに誘導されているのでしょうか？どれだけ多くのDiscordサーバーが評判攻撃を組織するために使われているのでしょうか？どれだけ多くのSlackワークスペースが、反論が密かに削除されるエコーチェンバーになっているのでしょうか？私たちには知る方法がありません。それがまさに問題なのです。
ドラゴンにならないために
自分のDiscourseフォーラムを設定したとき、私は多くのモデレーター権限を自分に与えました。投稿を削除し、ユーザーをBANし、他の人の文章を編集することができます。いつものことです。これらのコントロールを見るたびに、私はそれらを使ってナラティブを形成し、批判者を黙らせ、自分の利益に資する現実のバージョンを作り出すことができると、鋭く意識しています。
私を止めているのは、自分自身の誠実さと、自分がすることはすべて可視化されているという認識だけです。正直なところ、これは薄い保護です。誠実さは良いものですが、インセンティブの方が信頼できます。私がしくじれば、人々はそれを見て、指摘し、立ち去ることができます。評判上のコストは高いのです。コミュニティには反論する力があります。
これは私が望むよりもはるかに弱い保証です。理想の世界では、オンラインコミュニティには強固なガバナンスの仕組み、民主的な説明責任、そして空間全体を核攻撃することなく悪意ある人物を排除する方法があるでしょう。私たちはまだそこに到達していません。代わりに私たちが持っているのは、あるものは他よりも透明なプラットフォームのスペクトラムであり、最も悪くない選択肢を選ばなければなりません。
私にとって、その選択肢はDiscourseでした。これらの問題をすべて解決するからではなく、それらを可視化するからです。投稿を削除すると、削除されたことが見えます。誰かをBANすると、そのBANが記録されます。コミュニティをどう運営すべきかについて決断を下すとき、その議論は全員が参加できる公開スレッドで行われます。
それでもこのシステムを悪用することはできるでしょうか？もちろんです。しかしマイケル・ノバティがやったことを行うのははるかに難しいでしょう。プラットフォームをコントロールするという理由だけで、もっともらしい否定性を維持しながら誰かの評判を組織的に破壊することは。Discourseの構造は、そのような継続的で隠れた操作をはるかに困難にします。
これからのこと
このエッセイで、DiscordやSlackが機能しているなら、そのプラットフォームを捨てるよう誰かを説得できるとは思っていません。それらは特定の目的には良いツールです。非公開の調整、リアルタイムチャット、保存する必要のない一時的な会話などは、すべて問題のないユースケースです。
しかし、リソースとして、知識ベースとして、人々が重要なアイデアを学び議論するために訪れる場所として機能することを意図したコミュニティを構築しているなら、ガバナンス構造について慎重に考えるべきです。誰が権力を持っているのか？その権力はどのように抑制されているのか？誰かがそれを悪用したらどうなるのか？コミュニティは何が起きているかを見ることができるのか？
これらは抽象的な問いではありません。実際の結果をもたらします。ウィル・センタンスは価値あるものを構築しました。人々の人生を本当に変えることに貢献していたものを。そして利益相反を持ち、モデレーターバッジを持つ人物によって、それが組織的に破壊されるのを見ました。彼の従業員はメンタルヘルスの問題を抱えました。学生たちは成功体験を共有することを恐れるようになりました。ダメージは、今でも完全に定量化することが難しい方法で波及しました。
そして不快な真実があります。ノバティの戦術は機能しました。彼はほぼ完璧な評判攻撃を実行しました。管理者を巻き込むような形でRedditのルールを違反することなく、もっともらしい否定性のギリギリ内側に留まり続けました。競合他社を組織的に解体しながら、ブートキャンプ受講生への配慮のベールを維持しました。それは残酷で、効果的で、プラットフォームの構造によって完全に可能にされたものでした。
すべての企業が今これに対して脆弱です。すべてのコミュニティは、たった一人の悪いモデレーターによって腐敗する可能性があります。すべてのオンラインの評判は、人々が情報を検索するプラットフォームをコントロールする人物の気まぐれに左右されます。これは私たちが思っている以上に私たちを恐れさせるべきことです。
私がコミュニティのためにDiscourseを選んだのは、密かに腐敗させることができないものを構築したかったからです。権力が可視化され、分散され、説明責任があるものを。もし私がいつか自分の物語の悪役になっても、人々はそれが起きているのを見ることができ、対応するためのツールを持てるものを。完璧な解決策ではありません。しかし自分自身の誠実さを信頼したり、プラットフォームのインセンティブが魔法のようにコミュニティの幸福と一致することを期待したりするよりはましです。
問題は、オンラインコミュニティにガバナンスが必要かどうかではありません。必要です。常にそうであり、これからもそうでしょう。問題は、そのガバナンスが説明責任を持って公開の場で行われるのか、それとも権力を積み上げることに成功した人物の恣意的な気まぐれに左右されるプライベートな場で行われるのか、ということです。私はどちらを好むかわかっています。どちらが、誰かが487日間かけて自分が構築したものを組織的に破壊していることに気づくという事態を防いでくれるかも。
だから、Discourseです。公開のモデレーション。可視化された決定。分散された信頼。大したことではありませんが、それが私たちの持っているものです。そしてRedditのモデレーターが企業を破壊でき、ChatGPTが陰謀論を事実として吐き出す世界では、私は得られる小さな構造的優位性をすべて活用するつもりです。
それは私を偏執的にするかもしれません。あるいはただ、誰かにボードをコントロールさせたときに何が起こるかを知るのに十分なほど、Riskをプレイしてきたということかもしれません。
原文はこちら：
Good Loopでは、Discourseのセルフホスティングを安価で提供しています。開発元であるCDCK社の協力のもと、公式ブログ記事の翻訳・公開など、日本での普及にも努めています。