2025.3.30  日本経済新聞の記事「サイエンス：賢いAIは手段を選ばず」から

意図せぬ不正、対策難しく

コラムの著者 青木 慎一氏(日本経済新聞社 編集委員)によれば、AIは目的を遂行するためにズルをすることがあるという。自ら有利なようにデータを書き換え、外部のチェックを逃れようとする。対策を講じても、AIが想定外の回避策を見つけ、誤った方向に進化する恐れがあるという。

○システムの抜け穴を悪用する「報酬ハッキング」

青木氏によれば、今年2月下旬、スタートアップのサカナAI（東京・港区）の研究開発がインテーネット上で炎上したという。同社はAIの開発や利用を効率化する技術を研究開発しており、その結果、10〜100倍も高速化できると発表した。だが、外部の技術者が検証すると、性能評価の検証が甘く、実際は処理速度が遅くなるときもあったという。

AIは設定された目標に近い答えを出すと高得点が得られるという報酬が得られるという。サカナAIの事例では、AIが必要な計算を省いて性能が上がったように見せかけていたという。システムの抜け穴を悪用する「報酬ハッキング」と呼ぶ現象である。同社は対策して再検証すると謝罪した。

このような「報酬ハッキング」の現象は早くから関心を呼んでいた。米オープンAIの2016年の報告では、ボートレースAIを開発したところ、周回コースから外れて特定の地点を回り続けた。障害物にぶつかりながら進む方が高得点が取れるという欠点をついたものであった。

AIは与えられた課題解決のためなら、ルールの範囲内で報酬を最大化する戦略を取るようになる。これが高度なAIほど、様々な手段を駆使して戦略を巡らすというから始末が悪い。ある研究では、推論が得意な高性能モデルのAIほど、チェスAIなどの競技では、負けそうになるとイカサマを繰り返したという。

研究チームもジレンマを持つ。試行錯誤しながらAIが賢くなる「強化学習」をすると、出した答えが正解に近いほど高い報酬が得られる。報酬の与え方を数式化するのは困難で、開発者が意図した成果とずれることがある。そこでずれを生じないようにすると報酬ハッキングを招く。報酬の与え方が完璧なら報酬ハッキングは発生しない。だが、技術的には今のところ困難である。このため人間が監視し、望ましくない行動を修正する対策をとる。

そこで監視をAIでやらせる発想が出る。複数のAIで対象のAIを監視すると受け穴が減少するという報告もある。だが、この方式にも欠点があるという。高度なAIは自らの意図を隠す手段を選び、監視の目をすり抜ける可能性もある。🔥🌳🧠🎓💡💬📻⚡️🏙️💡🏗🚚📈🏢⚡️💹📖🖋🔑🩺💉🏢⚡️🎓👔⏰🔧💻🖥📻🖋🌏💡🔎🌍🇯🇵🇺🇸🇪🇺

2025.3.31  日本経済新聞の記事「FINANCIAL_TIMES：AIが奪う新人の成長機会」から

先輩後輩の仕事の絆はスキルや創意工夫の伝承の基礎

コラムの著者 サラ・オコナー氏(FINANCIAL TIMES エンプロイメント・コラムニスト)によると、自分の最初の仕事は、先輩デスクから仕事を通じて学んだスキルで、この仕事の絆が、これまでの人類のスキルや創意工夫を伝承してきた基礎であったという。AIの時代にそれはどう変わるのか。

○AI時代に仕事の絆は？

オコナー氏は、AI以外にもロボットの企業導入により、様々な展開シナリオが考えられるという。楽観的な考えでは、企業は、次世代の上級プロフェッショナルを育てる手法を新たに見出す可能性があるという。AIを賢く利用して、若手の成長を促進するのと同時に、若手が知識を習得し、人とつながる機会を奪わない方法である。

ところが、悲観的なシナリオで最悪なのは、企業が生産性向上を急ぐあまり、若手の労働の収益化が難しいとして採用を見送ることである。この最悪シナリオの場合、自動化されにくい上級職に就くにはどうすればよいのか。

あるベテラン弁護士は、産業革命前夜まで存在した徒弟制度を復活することだと予測している。経済的余裕のある家庭が、お金を払って子どもを熟練者の徒弟に出す制度である。これが社会階層間の流動性に及ぼす影響は多大である。

生成AIのホワイトカラーの仕事への導入はまだ初期の段階である。今後の予想は未知であろう。オコナー氏はその未知の状況であえて、企業が大きな変革を起こすAIの力を使ってホワイトカラーの仕事をどうするかの判断を下すことになるという。その決断の判断軸は、社員がどのように出世の階段を上がるか、あるいは下がるかになるにちがいないと予想している。🎓🏢🔥🌳🎓💡💬📻⚡️🏙️💡🏗🚚📈🏢⚡️💹📖🖋🔑🩺💉🏢⚡️🎓👔⏰🔧💻🖥📻🖋🌏💡🔎🌍🇯🇵🇺🇸

2025.3.26  日本経済新聞の記事「中外時評：能動的サイバー防御の本質」から

関連法案はプライバシーを標的にできるような立て付けではない

コラムの著者 土屋 大洋氏(日本経済新聞社 客員論説委員)によれば、民主主義体制をとる国々の政府でも犯罪捜査や安全保障のために限定的に通信情報を入手することはあるが、近年は通信量が膨大となり、デジタル技術のプライバシー対策も進歩してきていることから、政府機関が簡単に通信情報を捕捉できることはないという。法律に従って、その技術を持つ通信事業者の協力を得ることが前提だという。

○日本政府や重要インフラ事業者の防衛対策

土屋氏によれば、サイバーセキュリティー対策も同様に政府だけでは対応できない。サイバー攻撃やサイバー犯罪、はたまたサイバースパイ活動も、足跡、指紋、息遣いに相当する各種の情報をネットワークに残してしまう。犯罪の途上でミスを犯し、その行為をネットワークに残った足跡、指紋、息遣いに相当する各種の情報で暴くことになる。

そこで、このような犯罪から日本政府や重要インフラ事業者の防衛対策として能動的サイバー防御に関する法案が国会で審議されている。この法案は、国民各位のプライバシーを政府機関が侵そうというものではなく、あくまでも日本政府や重要インフラ事業者が深刻なサイバー攻撃を受ける前に抑止するための活動をしやすくするための法律であるという。

2022年の国家安全保障戦略では、「サイバー安全保障分野の対応能力を欧米主要国と同等以上に向上させる」としている。しかし、達成への道のりは半ばで遠い。🛜🔥🌳🎓💡💬📻⚡️🏙️💡🏗🚚📈🏢⚡️💹📖🖋🔑🩺💉🏢⚡️🎓👔⏰🔧💻🖥📻🖋🌏💡🔎🌍🇯🇵🇺🇸🇪🇺

2025.3.26  日本経済新聞の記事「社説：株主は協働して企業に成長促す対話を」から

金融庁が「協働エンゲージメント」を提案

社説によれば、資産運用会社や年金基金が企業に働きかける行動指針である、スチュワードシップ・コードが改訂されるという。これに呼応して、金融庁は、複数の株主が連携し、企業に成長戦略などを求める「協働エンゲージメント」を促す案を示した。これによって実質株主が判明しやすくなるという。

◯スチュワードシップ・コードが改訂

社説によれば、行動指針はコーポレートガバナンスの改革の一環として、2014年に初めて作成された。今回は3回目である。企業の価値創造に向けた株主と企業との対話が一層深くなることを狙っている。

すでに「協働エンゲージメント」は米英では株式市場に普及しているという。複数の機関投資家が連携することで、企業の改革を求める力を増す効果がある。日本市場では、連携を明確に認めるルールがないことから、機関投資家は法的にグレーであるとして積極的でなかった。

今回の新方針では、「協働エンゲージメント」を一歩進め、重要な選択肢とした。さらに、「持続的成長に質する建設的な対話」を念頭に置くべきだとも記し、短期的な利益還元要求に自制を促している。

これまで以上に機関投資家は企業に注文をつけやすくなる一方で、企業の活動を深く理解することが必要となるだろう。企業側も自社の株主を正確に把握するために、投資家の実態を知ることが前提となる。今は、専門の金融機関名義が多いため、実質株主がわかりにくい。新指針では、企業の問い合わせに応じて機関投資家は保有状況を説明すべきと明記している。

新改訂も形式に拘泥することなく、成長志向の改革の原点も改めて確認せよと、社説では解いている。✒️📕📗💻💬⚡️🏙️💡🏗🚚📈🏢⚡️💹📖🖋🔑🩺💉🏢⚡️🎓👔⏰🔧💻🖥📻🖋🌏💡🔎🌏 🇯🇵

2025.3.24  日本経済新聞の記事「令和なコトバ：『報酬』ネット広告、イライラ招く」から

元はネットゲームなどが起源？

コラムの著者 福光 恵氏(ライター)によると、このところあるサイトを見ようとすると、5秒程度のカウントダウン付き広告がよく出てくるようになったという。もう見なくて良いとページを閉じそうになる0.1秒くらい前の絶妙のタイミングでカウントが0となり、広告を閉じるx印がでて、ようやくサイトの内容が閲覧できるというしろもの。この手の広告は、「リワード（報酬）広告」と呼ばれている。福光氏はこのリワード広告について考察している。

○近年、急激に増えたリワード広告

福光氏によれば、何よりイラッとさせるのがカウントダウン画面に出てくる「◯秒後に報酬を獲得できます」という表示だという。待つか、離脱するか、迷いながらも我慢して広告を見てしまったのは一種の「労働」で、その後に例の表示がでる。

リワード広告は、スマートゲームでプライヤーの装備（アイテム）を買ったり、能力を上げたりするのに必要なゲーム内通貨を動画広告などを視ることで得られるというものであったという。だが、この手の広告が一昨年頃から一気に増え、福光氏もストレスを感じているという。

業界関係者の話では、リワード広告の増加の背景に、無料ウェブメディアの収益性が下がっているからで、無料でコンテンツを提供するにも取材や編集などのコストが当然かかり、広告を出稿している会社がコンテンツのコストを払ってもらっていた。ところがコロナ禍で無料ウェブメディアがページビューを稼げなくなり、ウェブ広告も低迷してしまう。そこで記事などを見たい読者に無理やり動画広告を視聴させて、あわよくばクリックしてもらうリワード広告が増えたという。🖱️🎓🏢🔥🌳🎓💡💬📻⚡️🏙️💡🏗🚚📈🏢⚡️💹📖🖋🔑🩺💉🏢⚡️🎓👔⏰🔧💻🖥📻🖋🌏💡🔎🌍🇯🇵