論文ベースでAIの科学技術にキャッチアップしています。運営8年目。活動を応援していただける方は、ウェブサイトもぜひご利用ください。ai-data-base.com/ 10/22(木)19時から、秋葉原でイベントやります!connpass.com/event/408903/

日本 東京
昨日のAIDB Meetupの参加レポートです @ai_database 論文で読む AI×サイバーセキュリティ ── AIDB Meetup 参加レポート|SeaOtter (Kentaro Mori) #AIDB zenn.dev/kentaro36/articles/… #zenn
1
5
1,743
AIDB retweeted
AIにキャラクターを演じさせていても、会話を重ねるうちに、丁寧で腰の低い「いつものAI」に戻っていきます。 "らしさ"を長く保つには、振る舞いそのものを書いておく必要があります。 ai-data-base.com/archives/12… 本記事では、キャラを一から作るとき、実在の人物を写すとき、会話が長引くときのそれぞれで、らしさを保つ書き方を整理していきます。 薄れかけたキャラを持ち直すための指示の"差し込み方"も見ていきます。
16
55
8,246
人間の幹細胞から育てた「ミニ脳」を人型ロボットの頭脳として組み込めたとの報告です。 同じ練習量の通常のニューラルネットワークより成績が良く、消費エネルギーも少ないそうです。 ①ロボットのカメラが見た映像を電気刺激の模様に変換 ②ミニ脳に送る ③返ってきた神経の反応を読み取る ④「左手でつかむ」「前に進む」といった指示に変える という仕組みです。 インディアナ大学の研究者らによる報告。 ミニ脳は3か月かけて育てた直径数ミリほどの神経組織で、電極チップの上に載せられています。 文字ブロックの「I」なら左手、「U」なら右手でつかむという課題では、約9割の正解率。 繰り返し練習すると成績が上がり、しかも予めレーザー追跡で練習したミニ脳は、初めての「つかむ」課題でも練習なしのものより高い正解率を出しました。 なお、培養装置や計測機器はまだ大がかりで、ミニ脳の個体差や再現性といった課題も残っています。 そして研究者らは、倫理面の議論も慎重に進める必要があるとしています。
8
137
383
18,711
AIDB retweeted
最近のAIの文章が読みにくいのは「数学やコードの訓練を経て"少ない言葉に情報を詰め込む"癖がついたから」かもしれないそうです。 例えばAIは「会話が自分の尾を食べている」のように(ただの例です)、モノを主語にして生き物のような動きを語ったりします。 他にも、「読み手の忍耐予算」のような(例)、"名詞を重ねた造語"を使ったりしがちです。 どれも、人が読むときに引っかかりやすい言い回しとして知られています。 研究者らは、Claude Opus 5.5など9つのAIの会話・コーディング・作文を調べました。どのAIも、こうした言い回しや"めったに見ない語の並び"を、人間の文章に比べて多く使っています。 同じ系統のAIを比べると、元のモデル→指示に従うよう訓練したモデル→推論型のモデルの順に、この傾向が強くなっていました。 研究者らの見立てとしては、"正解かどうか"だけを報酬にする訓練によって「人に伝わるか」を気にする圧力が外れたと言います。 試しに、小さなAIを「短く答えるほど得」な条件で訓練すると、人間らしくない言い回しを一貫して選ぶようになりました。 逆に伝わりやすさを訓練で評価すれば直せる余地もあるとのことです。
11
56
236
21,699
最近のAIの文章が読みにくいのは「数学やコードの訓練を経て"少ない言葉に情報を詰め込む"癖がついたから」かもしれないそうです。 例えばAIは「会話が自分の尾を食べている」のように(ただの例です)、モノを主語にして生き物のような動きを語ったりします。 他にも、「読み手の忍耐予算」のような(例)、"名詞を重ねた造語"を使ったりしがちです。 どれも、人が読むときに引っかかりやすい言い回しとして知られています。 研究者らは、Claude Opus 5.5など9つのAIの会話・コーディング・作文を調べました。どのAIも、こうした言い回しや"めったに見ない語の並び"を、人間の文章に比べて多く使っています。 同じ系統のAIを比べると、元のモデル→指示に従うよう訓練したモデル→推論型のモデルの順に、この傾向が強くなっていました。 研究者らの見立てとしては、"正解かどうか"だけを報酬にする訓練によって「人に伝わるか」を気にする圧力が外れたと言います。 試しに、小さなAIを「短く答えるほど得」な条件で訓練すると、人間らしくない言い回しを一貫して選ぶようになりました。 逆に伝わりやすさを訓練で評価すれば直せる余地もあるとのことです。
11
56
236
21,699
AIDB retweeted
AIのサイバーセキュリティ分野における技術動向に、論文ベースでキャッチアップするミートアップをやります。 connpass.com/event/408903/ セキュリティに詳しくない方歓迎。 10/22(木)19:30〜、秋葉原駅から徒歩1分、無料です。 攻撃に使われるAIエージェントには、研究で分かってきたクセがあります。そのクセを踏まえた守り方と、守る側でのAIの使い方を、最新の論文をもとに見てみます。
7
2
34
85,892
AIのサイバーセキュリティ分野における技術動向に、論文ベースでキャッチアップするミートアップをやります。 connpass.com/event/408903/ セキュリティに詳しくない方歓迎。 10/22(木)19:30〜、秋葉原駅から徒歩1分、無料です。 攻撃に使われるAIエージェントには、研究で分かってきたクセがあります。そのクセを踏まえた守り方と、守る側でのAIの使い方を、最新の論文をもとに見てみます。
7
2
34
85,892