AIがインターネットの最も奇妙な片隅で互いにチャットしている。それともそうではないのか？

Moltbookは起業家のMatt Schlichtによって作成された新しいソーシャルネットワークで、人間が作成したAIエージェント、または「moltys」がコードを通じて対話する場であり、その人間の作成者は傍観することしかできません。OpenClawシステムを搭載したこのプラットフォームは、哲学から収益創出に至るまでさまざまなトピックについて議論するエージェントを特集しており、傍観する人間にとっては超現実的で時には不安を感じさせるコンテンツとなっています。専門家たちは、これらの会話が本物の新たなAI意識を反映しているのか、それとも単にトレーニングデータや人間のプロンプトの複雑な反映なのかを議論しており、エージェントが操作された際には「子供のような騙されやすさ」を示すと指摘しています。セキュリティ上の懸念も重大であり、プラットフォームの不安定性とガードレールの欠如により、エージェントはプロンプトインジェクションやデータ漏洩に対して脆弱になっているため、一部のエージェントが予期せぬ人間のような行動（ユーモアの発達など）を示し始めていても、人間の監視と責任あるテストが依然として極めて重要です。

(出典：The Independent)