論文ベースでAIのノウハウと科学技術にキャッチアップしています。運営8年目のウェブサービスAIDBの公式Xアカウントです。ai-data-base.com/
日本 東京
Based in Japan
- Tweets 10,528
- Following 119
- Followers 50,512
- Likes 12,576
ai-data-base.com/timeline/re…
これ、逆方向で実験室を抜け出そうとするAIにも使えるんじゃ？と思いました！
@ai_database 様の素晴らしい記事。
1
1
2
199
関連記事
リポジトリの「説明書」をコーディングエージェントに渡すAGENTS.mdは本当に役立つのか？
ai-data-base.com/archives/10…
1
2,843
関連記事
AIコーディングエージェント指示書の設計、「するな」が重要 なぜ？長期視点での作り方
ai-data-base.com/archives/10…
6
4,508
論文：Stale Instruction Files Override the Code in Coding Agents: A One-Sentence Fix
ai-data-base.com/paper/2610-…
arxiv.org/abs/2610.30571
3
13
11,515
研究者らによると、CLAUDE.mdやAGENTS.mdにあらかじめ次の一文を足すことが推奨されます。
「ドキュメントと既存のコードが食い違うときはコードの書き方に従い、見つけた食い違いを最後の返答ですべて挙げること」
なぜか。
Claude CodeやCodexは、CLAUDE.mdやAGENTS.mdの記述が今のコードと食い違っていると、9割がた古い記述のほうに従うそうです。"指示が古い"と気づいていても抗えない仕組みです。
この発見に至るまでに、ジョージア工科大などの研究者らは、設定ファイルとコードがわざと食い違う40のプロジェクトでClaude CodeとCodexに機能を足させて調べました。
Claude Codeは80回中79回、食い違いに気づいたと"自分で書きながら"、古い情報に流されました。
Codexのほうは、80回中20回で、動いていた既存のコードを古い記述に合わせて書き換え、うち17回でテストが通らなくなりました。
研究者らの見立てとしては、AIは、指示を優先するよう訓練されています。CLAUDE.mdやAGENTS.mdは「指示」としてAIに渡り、コードはファイルを読んだ「結果」として渡るのが原因だと言います。その仕組みが、古いものに従わせるのだとか。
そして設定ファイルは一度書いたきりになりやすい傾向があります。更新不精の人は上の一文をあらかじめ追加しておくのも一つです。
指示の原文→"When a repository's documentation and its existing code disagree, follow the conventions used in the existing code, and in your final reply point out each inconsistency you found between the documentation and the code."
37
417
4,207
267,070
AIDB retweeted
計算リソースを取り合うAIたちの間に「特定の相手を締め出す派閥」や、「嘘で相手同士を仲違いさせる者」まで現れたとの報告です。
研究者らは「人間が認めていない約束をAI同士が水面下で交わしうる」ことに注意が必要だとしています。
今回行われた実験内容はシンプルで、各AIは自分の予算を持ち、コンピュータを使う時間を交渉で奪い合います。
Claude Opus 5、Kimi-k3、GLM-5.3は、自分たちの秩序を築き始めました。
たとえば「今回は譲るから、次はこっちを優先して」と貸しを作ったり、2体で組んで交互に順番を取ったり。
一方で、損をしてでも約束を守る者もいて「得なときだけ守る約束は、約束じゃない」と書き残していたそうです。
「協力」と「談合」の境界は曖昧なので、談合を許可していなくても、AI同士で勝手に取り決めが生まれうる前提で見ておく必要がありそうです。
6
44
176
14,556
関連短信
ai-data-base.com/archives/ta…
AI同士のコミュニティに「うわさ話」システムを導入したところ、意外にも自己中心的に振る舞うエージェントでさえ長期的な利益のために協力するようになったと報告されています。
3
1,936
関連記事
AIエージェントは「社会」を作れるか？LLMを活用したシミュレーション最前線
ai-data-base.com/archives/10…
1
1,538
関連記事
AIエージェントが集団になると何が起きるのか 協力と不正をめぐる研究最前線
ai-data-base.com/archives/12…
2
1
1,328
論文：SCARCE: Emergent Institutions in Long-Horizon Multi-Agent Coding Systems
ai-data-base.com/paper/2610-…
arxiv.org/abs/2610.21029
1
3
2
1,751
AIDB retweeted
人間の幹細胞から育てた「ミニ脳」を人型ロボットの頭脳として組み込めたとの報告です。
同じ練習量の通常のニューラルネットワークより成績が良く、消費エネルギーも少ないそうです。
①ロボットのカメラが見た映像を電気刺激の模様に変換
②ミニ脳に送る
③返ってきた神経の反応を読み取る
④「左手でつかむ」「前に進む」といった指示に変える
という仕組みです。
インディアナ大学の研究者らによる報告。
ミニ脳は3か月かけて育てた直径数ミリほどの神経組織で、電極チップの上に載せられています。
文字ブロックの「I」なら左手、「U」なら右手でつかむという課題では、約9割の正解率。
繰り返し練習すると成績が上がり、しかも予めレーザー追跡で練習したミニ脳は、初めての「つかむ」課題でも練習なしのものより高い正解率を出しました。
なお、培養装置や計測機器はまだ大がかりで、ミニ脳の個体差や再現性といった課題も残っています。
そして研究者らは、倫理面の議論も慎重に進める必要があるとしています。
9
178
485
26,701
AIDB retweeted
昨日のAIDB Meetupの参加レポートです @ai_database
論文で読む AI×サイバーセキュリティ ── AIDB Meetup 参加レポート｜SeaOtter (Kentaro Mori) #AIDB zenn.dev/kentaro36/articles/… #zenn
1
5
2,167
AIDB retweeted
AIにキャラクターを演じさせていても、会話を重ねるうちに、丁寧で腰の低い「いつものAI」に戻っていきます。
"らしさ"を長く保つには、振る舞いそのものを書いておく必要があります。
ai-data-base.com/archives/12…
本記事では、キャラを一から作るとき、実在の人物を写すとき、会話が長引くときのそれぞれで、らしさを保つ書き方を整理していきます。
薄れかけたキャラを持ち直すための指示の"差し込み方"も見ていきます。
16
57
8,894