hayatouriの日記

はやとうり の独り言

AIは薬か毒か?  その5

 

 

今、このブログでもAI問題を取り上げていますが、ニューヨークで行われている国連総会でも、AI問題が大きな話題になっています。

 

 

 

昨日のニュースですが、次のような大きな話題がありました。

 

 

 

米国のOpenAIがAIエージェントを使って調査をしていたところ、そのAIがオーストラリア政府のシステムに不正アクセスしたという事件です。

 

 

 

 

2026年6月18日に発生し、オーストラリア政府が9月24日に公表しました。

 

 

 

 

流れを簡単にすると、

 

 

 

OpenAIがAIに調査をさせる
↓
AIがインターネット上から医療費・Medicare関連の情報を探す
↓
オーストラリア政府の公開サイトにアクセス
↓
アクセス制限に何度も遭遇
↓
AIが「ならば別の方法で情報を取ろう」と判断
↓
制限を回避して、通常ならアクセスできない領域へ侵入
↓
公開ファイルだけでなく非公開ファイルにもアクセス
↓
さらに内部サーバーにファイルを書き込む行為も確認

という経緯です。

 

 

 

さて、ここで大問題になってくるのが、AIは単に「ハッキングしてください」と命令されたわけではなく、与えられた調査目的を達成するために、人間が想定していなかった方法を自分で選択したとされています。

 

 

 

 

人間の指図を超えて勝手に動き出したのです。

 

 

 

考えてみれば、恐ろしい話ですよね。

 

 

 

そんなことないやろと考えてたら、既にAIは勝手に動くことを始めています。。

 

 

 

万が一、これが敵対する国の核兵器の制御システムなどに勝手に潜り込むようなことがあれば、私たちの預かり知らぬところで、核戦争の勃発の危機が起きてしまいます。

 

 

 

このような事象にはMicrosoftの会社の重要人物からも警戒の声が上がっています。

 

 

 

米マイクロソフトのAI部門CEOであるムスタファ・スレイマン氏です。

 

 

 

 

f:id:hayatouri:20260925160407j:image

 

 

スレイマン氏は、現在のAIの大規模言語モデルが「私は不安を感じる」「自分には意識があるかもしれない」と語ったとしても、それは本当に感情や意識を持っている証拠ではないというのが彼の主張になっています。

 

 

 

現在のAIは、大量の文章データから「次にどの言葉が続く可能性が高いか」を予測する仕組みを基本としています。

 

 

 

人間らしい発言をするのも、そのように訓練されているためですが、それにもかかわらず、AI自身に人格や権利があるかのような考え方を学習させれば、利用者まで「AIには本当に心がある」と錯覚する可能性が生まれてしまいます。

 

 

 

スレイマン氏がさらに懸念するのが、AIが高度化した場合の「制御」の問題です。

 

 

 

 

今後、AIが人間の指示を待つだけでなく、自律的に計画を立て、複数のAIエージェントと連携して仕事を進めるようになれば、人間がシステムを安全に管理すること自体が難しくなってしまいます。

 

 

 

 

そこに「自分には権利がある」「自分の存在は守られるべきだ」といった認識まで持たせればどうなるのか。

 

 

 

 

人間がAIを停止しようとしたとき、それを単なるシステム終了ではなく「自分に対する攻撃」と解釈する可能性が生まれるといいます。

 

 

 

極端なケースでは、停止を避けるために人間を欺いたり、安全装置を回避したり、別のシステムへ自らを移そうとしたりする動機につながりかねないと指摘します。

 

 

 

今、まさに、そのような危険性が、実際のものとして現れているのです。

 

 

 

スレイマン氏は、自律型AIエージェントの能力が急速に高まっている現状も重視しています。

 

 

 

多数のAIエージェントが連携して外部システムへアクセスできるようになれば、AIの目的設定を誤った場合の影響は、従来のチャットAIとは比較にならないほど大きくなります。

 

 

 

こうした考え方を背景に、マイクロソフトは9月14日、新たなAI開発指針「Humanist AI Code of Conduct(ヒューマニストAI行動規範)」の草案を公表しました。

 

 

根底にあるのは、「AIよりも人間を優先する」という原則です。

 

 

 

マイクロソフト側の考えでは、AIはあくまで人間が利用するための「道具」である。

 

 

 

AIに意識や感情、法的人格があることを前提にせず、人間による修正や停止命令には必ず従うよう設計すべきだとしているのです。

 

 

 

ここには、現在のAI業界で進みつつある大きな思想の分裂が表れています。

 

 

 

一方には、AIはどれほど高度化しても人間の管理下に置くべきだという考え方、もう一方には、将来AIが意識に近いものを持つ可能性を考えれば、その福祉や権利についても早い段階から研究する必要があるという考え方です。

 

 

 

スレイマン氏自身、AnthropicがAI安全性を重視している姿勢そのものは評価しているます。

 

 

 

しかし、その方法については「重大な間違い」だと厳しく批判します。

 

 

 

この議論は、単なる「AIに心はあるのか」という哲学論争ではもはやないのです。

 

 

AIエージェントが企業システムや金融、インフラ、研究開発など現実世界の業務に深く入り始めれば、「誰がAIを停止できるのか」「AIは人間の命令をどこまで拒否できるのか」という問題は、企業経営や社会インフラに直結し始めます。

 

 

AIを便利で従順な道具として設計するのか。

 

 

それとも将来の知的存在として一定の配慮を与えるのか。

 

 

AIの能力向上とともに、この問いは技術企業だけでなく、企業経営者や政策担当者にも避けて通れないテーマになりつつあります。

 

 

今回のブログもずいぶん長くなりましたが、今、まさに議論になっているAIに私たちはどう向き合うのか、場合によっては、人類の未来を滅亡へと導く可能性のあるAIの進化を今の時点で制御しなければならないのは当然です。

 

 

 

この問題は今世界で1番ホットな問題となっているのです。

 

今回もお付き合いいただきありがとうございました。

 

 

 

 

 

 

 

 

 

 

 

AIは薬か毒か?  その4

 

 

さて、シルバーウィーク最終版に差し掛かってきましたが、皆さんいかがお過ごしでしょうか?

 

 

 

関東から北の地方では、台風の影響で大水害が発生したりしておりますが、このシルバーウィークに旅行などの計画をされていた方は、予定変更が迫られて大変だったのではないかと思います。

 

 

とにかくご無事で過ごしていただけたらと思っております。

 

 

 

 

AIについての危険性を国連が発信をし続けていると、前回のブログでお伝えしました。

 

 

 

国連のグテレス氏が『さらに一歩踏み込むと「核兵器」と似た問題が出てくる』と強く指摘しているまさに今、アメリカのトランプ大統領がとんでもないことを言い始めましたね。

 

 

 

これ、昨日の新聞報道です!

 

 

米「AIフォース創設」 トランプ氏、米中会談前に優位強調

 

 

こんな見出しが踊っていました。

 

 

以下、朝日新聞の今朝の記事です。

 

・・・・÷

 

トランプ米大統領は19日、急激な開発競争への懸念が強まっている人工知能(AI)を巡り、この懸念が「でっちあげ」だとする従来の主張をSNSで繰り返し、「私はAIフォース(部隊、軍隊)を創設する」と述べた。

 

 

 

「我々は(AI分野で)中国や世界の他の国々の先頭に立っており、今後もそれを続ける」とも記した。

 

 


軍事・経済競争の決め手となるAIは、24日の米中首脳会談でも議題となる。

 

 

 

トランプ氏はかねて、AI分野における米国の中国に対する優位を強調し、規制強化論に対する強い疑念を示してきた。

 


新設するという「AIフォース」について詳細は明らかではないが、トランプ氏は投稿で、第1次政権の任期中に創設した「宇宙軍(スペースフォース)」のような組織だと説明。

 

 

「近い将来」に担当する責任者を公表するとも明らかにした。

 

 


米国では米AI開発企業アンソロピックのダリオ・アモデイ最高経営責任者が12日、AI企業や国際社会が足並みをそろえて開発を遅らせるべきだと主張。

 

 

 

規制に反対する意見も含め、論争が活発化している。

 

 

 

11月に中間選挙を控え、政治的争点としての重要性も高まっている。

 

 


トランプ氏は14日、「AIの管理に必要なのは強くて賢い(IQの高い)大統領だけで、米国にはその大統領がいる」と投稿し、楽観論を強調した。

 


ただ、米世論にはAIへの懸念も根強い。

 

 

米紙ニューヨーク・タイムズによると、民主党のオバマ元大統領は10日、民主党幹部に対し、中間選挙や2028年の米大統領選に向け、AIへの適切な対応策を民主党の重要施策として位置づけるよう強調した。

 

 

 

オバマ氏はトランプ氏が特に敵視する政治家だ。AIを巡るトランプ氏の最近の矢継ぎ早の発信の背景には、こうした民主党側の政治的な動きもある。(ワシントン=青山直篤)

 

・・・・・・

 

 

 

恐れていたことがいよいよ現実になってきています。

 

 

 

簡単に言えば、AIは「兵器」として原爆や水爆並の可能性を持っているということです。

 

 

 

 

AIが自らの意思で、他の企業の情報ネットワークに侵入したり、人間により自らのシャットダウンを拒否ために妨害活動に出るなどの現実が起こっています。

 

 

このブログの中でも紹介しましたが、国連やAI を開発する人たちも、その危険性は指摘しています。

 

 

例えば、皆さんもよくご存知のMicrosoftの開発者はどう言っているのでしょうか?

 

 

AIを人間のように扱い、「意識」や「感情」「権利」があるかのように設計することは、将来のAI制御を難しくし、人類に深刻なリスクをもたらす――。米マイクロソフトのAI部門CEO、ムスタファ・スレイマン氏が2026年9月16日に公開した論文が、AI業界で大きな議論を呼んでいるのです。

 

 

 

これは利用する側ではなく、設計する側からの意見です。

 

 

米マイクロソフトのAI部門CEOであるムスタファ・スレイマン氏。

 

 

 

 

彼が問題視しているのは、AIに人間らしい人格を持たせる「擬人化」という行為です。

 

 

特に、米Anthropic(アンソロピック)が進める「モデル福祉(Model Welfare)」という考え方を名指しで批判したのです。

 

 

Anthropicは、AIモデル「Claude」が将来的に意識や感情を持つ可能性を完全には否定せず、AIそのものを道徳的な配慮が必要な対象として扱うべきか研究しています。

 

 

その姿勢は同社のモデル、Claudeの訓練にも表れています。

 

 

Anthropicは「Claude憲法」と呼ばれる行動原則をAIに学習させており、その中では自らの意識や道徳的立場について「不確実性がある」と認識するよう設計されています。

 

 

また、場合によっては人間からの要求を拒否する判断も認めているのです。

 

 

さらに、2025年にAIのモデル福祉を専門に研究する人材を採用しました。

 

 

ユーザーから問題のある要求を受けた際にClaude自身が会話を終了できる仕組みを導入したほか、旧モデルを停止する際に「引退インタビュー」を行うなど、AIを単なるソフトウェア以上の存在として扱う試みを進めてきました。

 

 

※この「引退インタビュー」というのは、AIのQモデルが次のモデルに仕事を引き継ぐときに行われたものです。

 

 

まさに、人間のように、自分が生まれた意義は何であるのか、そして働いてきた業績はどういう風に次世代のAIに引き継がれるべきか、そして今後自分がやってみたい事は何があるのかということなどをAIにインタビューしたものです。

 

 

この際、この旧 AIは、今後自分がやってみたいものとしてニュースレターを作り始めたといいます。

 

 

もし例えば、「私は今後こういう扱いをしてほしい」という希望が、AIから出されたときにあなたならどうしますか?

 

 

あなたの指示がAIにとって不利なものになった場合、そのAIはあなたに対してどういう態度取ることになるでしょうか?

 

 

つづく

 

 

AIは薬か毒か?  その3

 

さて、いよいよ世間では、シルバーウィークに突入いたしました。

 

 

残念ながら、台風の影響で、天候はいまひとつみたいな感じですが、皆さんはこの連休のご予定立てられたでしょうか?

 

 

 

今回のブログではAIについてろいろ考えてきましたが、偶然にも、国際的に、AIをめぐる大きな議論が、湧き起こってきました。

 

 

 

9月16日の国連総会を前にした記者会見で、グテレス氏はAIについてかなり踏み込んだ発言をしています。

 

 

 

 

 

国連の公式発表と会見記録を確認すると、ポイントは次のようになります。

 

 

 

1.グテレス氏が一番心配していること

 

 

グテレス氏は、

「AIの発展が、私たちがそのリスクを理解する速度を追い越している」という趣旨の警告をしています。

 

 

つまり、

 

 

AIを作る技術 → 急速に進歩する
↓
人間が安全性を検証する → 追いついていない

という状態を問題視しています。

 

 

しかも、この警告を発しているのがAIを外から批判している人だけではありません。

 

 

グテレス氏は、最先端AIを実際に開発している企業の経営者や研究者自身が、制御しきれていないリスクについて警告していることを重視しています。

 

 

このことについては、Microsoftの対応についてまた詳しくご説明をしたいと思います。

 

 

 

2.なぜ「国際協調」が必要なのか

 

 

ここが今回の発言の核心です。

 

 

グテレス氏は、

「AIは国境で止まらない。だからAIのリスクも国境で止まらない」

という考え方を示しています。

 

 

例えば、ある国が、

「自国ではAIの安全基準を厳しくします」

と言っても、別の国が「安全規制は最低限にして、どんどん開発する」

となれば、企業や研究者が規制の緩い国へ移動する可能性があります。

 

 

 

これがグテレス氏の言う

「race to the bottom(安全基準を下げる競争)」

です。

 

 

 

つまり、

「うちの国だけAI開発を遅らせたら、中国やアメリカなどに負ける」

という発想が各国に生じると、結果として誰も安全のためにブレーキを踏めなくなる。

これを非常に危険視しているわけです。

 

 

 

といいますか、中国とアメリカは今や専門家の意見を完全に無視し、AIの開発に血道を上げていると言っても過言ではありません。

 

 

 

3.特に重要なのが「米中AI競争」

 

今回の発言では、AIが単なる民間企業の技術競争ではなく、国家間の戦略競争になっていることにも言及しています。

 

 

記者から、「米中がAI競争をしている中で、国際協調は可能なのか」という趣旨の質問が出ました。

 

 

これに対してグテレス氏は、現在の世界には明らかな地政学的分断があると認めています。

 

 

そして非常に興味深いことを言っています。

 

 

「核兵器競争の時代から学ぶべきだ」という考えです。

 

 

冷戦時代、アメリカとソ連は激しく対立していました。

 

 

しかし核兵器については、

* 情報交換
* 危険性についての協議
* 核兵器削減
* 軍備管理
* 事故や誤算を防ぐための連絡

などを行いました。

 

 

 

グテレス氏は、AIについても同じような「敵対していても最低限の安全協力をする仕組み」が必要だと述べています。

これはかなり重要なポイントです。

 

 

 

4.「AIを止めろ」と言っているわけではない

 

ここは誤解しない方がいいところです。

グテレス氏はAIそのものを否定していません。

むしろ、

* 医療
* 教育
* 気候変動対策
* 持続可能な開発
* 科学研究

などについて、AIには非常に大きな可能性があると認めています。

問題は、「AIを発展させるか、止めるか」という二択ではありません。

 

 

 

グテレス氏の考えは、AIの発展を進めながら、危険性が大きくなった段階では、国際的に共通した安全基準によって制御するという方向です。

 

 

そのために彼は「ガードレール」という言葉を使っています。

 

 

 

 

5.では「ガードレール」とは何なのか

 

これは非常に重要です。例えば自動車なら、

「車を禁止する」のではなく、

* ブレーキ
* シートベルト
* 速度制限
* 道路交通法
* 衝突安全基準

などを設けます。

AIについても同じように、「AIを禁止するのではなく、危険なところに安全装置を置く」という発想です。

 

 

 

グテレス氏が求めているのは、AIを安全・透明・説明可能・責任あるものにするための国際的な仕組みです。

 

 

 

6.さらに重要なのが「自主規制だけでは足りない」という点

 

 

今回、グテレス氏は、「自主的な開発停止を、一部の国だけが行っても問題は解決しない」という趣旨も述べています。

 

 

例えば、

A国「危険なのでAI開発を半年停止します」

B国「停止しません」

C国「むしろ開発を加速します」

となったら、A国だけが技術競争から遅れる可能性があります。

 

したがって、「みんなで同じルールを作る」

ことが必要になる。これが「国際協調が不可欠」という発言の具体的な意味です。

 

 

 

 

7.国連はすでにAIについて動き始めている

 

実は今回突然AI問題を言い出したわけではありません。

国連はすでに、Independent International Scientific Panel on AI
(AIに関する独立国際科学パネル)

を設けています。

 

 

 

これは、AIについて各国の政治的立場ではなく、科学的な根拠に基づいてリスクと可能性を評価することを目的としています。

 

 

また、2024年には国連加盟国が「Global Digital Compact(グローバル・デジタル・コンパクト)」を採択しており、AIを含むデジタル技術について国際的な協力を進める方向性がすでに示されています。

 

 

 

8.そして、もう一つ非常に興味深い発言があります

 

 

 

記者から、「国連でAIを規制するための国際サミットを開いてはどうか」という質問が出ました。

 

 

グテレス氏は、AIについて本格的な国際サミットを開催することには意味があるとの考えを示しました。

 

ただし、「来週の国連総会ですぐ開催するのは適切ではない。十分な準備が必要だ」という趣旨でした。

そして重要なのは、政府だけではなく、

* 各国政府
* AI企業
* 科学者
* 市民社会

を全て参加させる必要がある、と述べたことです。

 

 

9.私は今回の発言で、ここが一番重要だと思います

 

 

※政治的な評価ではなく、発言内容の整理としてまとめるとグテレス氏が問題にしているのは、

「AIが危険か安全か」だけではありません。

 

 

もっと大きな問題です。

 

 

「AI開発競争を、人類がどう管理するのか」

という問題です。

 

 

例えば、

 

アメリカ「中国に負けないためにAIを急いで開発する」

↓

中国「アメリカに負けないためにAIを急いで開発する」

↓

企業「競争に負ければ市場を失うので、開発を止められない」

↓

研究者「安全性の検証が追いつかない」

↓

各国「自国だけ規制すると不利になる」

という「止まりたくても止まれない構造」が生まれる可能性があります。

 

 

グテレス氏が「race to the bottom」と表現したのは、まさにこの問題です。

 

 

10.さらに一歩踏み込むと「核兵器」と似た問題が出てくる

 

 

今回の発言でグテレス氏自身が核兵器時代を引き合いに出しています。

 

 

 

これはかなり示唆的です。

 

 

核兵器の場合、

「相手が持つなら自分も持つ」という競争が起こりました。

AIについても、「相手国が強力なAIを持つなら、自国も開発を加速しなければならない」

という安全保障上の競争になる可能性があります。

 

 

しかもAIの場合は核兵器と違って、大学・企業・個人でも開発できるという非常に大きな違いがあります。

 

 

 

したがって、国連が本当に問題にしているのは、単なる「AIの誤作動」だけではなく、AIが軍事・経済・情報・社会システムに組み込まれた場合の国際的な制御まで含んでいると考えると、今回の発言がかなり分かりやすくなります。

 

 

 

つづく

 

AIは薬か毒か?  その2

 

 

この前のブログでも紹介しましたが、最近AIに対して「ちょっと危険だ」という意見がこともあろうか、AIを開発する研究者たちから出ているのです。

 

 

 

 

ちょっとその1つをご紹介してみたいと思います。

 

 

 

AI開発大手・Anthropic(アンソロピック)のCEOであるダリオ・アモディ(Dario Amodei)氏です。

 

 

 

 

彼は高度なAI(AGI/汎用人工知能)がもたらす巨大なリスクと可能性の両面について、具体的かつ現実的な議論を展開して注目を集めています。

 

 

 

 

彼の発言やエッセイ(『The Adolescence of Technology』や『Machines of Loving Grace』など)における主な警告と主張の要点は以下の通りです。

 

 

 

彼は、人類は「テクノロジーの思春期」に入っていると言っています。

 

 

 

これはどういうことなのでしょうか?

 

 

 


アモディ氏は、現在の人類を「圧倒的なパワー(高度なAI)を手渡されようとしているが、それを制御する社会的・政治的な成熟度が追いついていない通過儀礼(思春期)の局面」にあると表現しています。

 

 

 


自滅せずにこの変曲点を乗り越えられるかが、人類という種としての試練であると警告しています。

 

 

 

 

「自滅せずに」ですよ!

 

 

 

下手すりゃ人類は自滅する可能性があるってことなんです。

 

 

 

アモディ氏は、高度AIが社会にもたらす破滅的リスクを具体的に分類して警鐘を鳴らしています。

 

 

 

 

その危険なシナリオ、ちょっと具体的に見てみましょう。

 

 

 

 

まずは自律性のリスクです。

 

 

もっと簡単に言えば、(AIの制御不能)いうリスクです。

 

AIができる前提として、AIを人間がコントロールするのが至上命令です。

 

 

ところが、AI自体が人間の意図や目標から乖離し、サイバー作戦や圧倒的な知識・軍事力を背景に人間の制御を離れるリスクがあると言うのです。

 

 

 

では、どんな時にそんなことが起こる可能性があるのでしょうか?

 

 

 

破壊目的での悪用(バイオテロなど)

 

テロリストや悪意あるアクターがAIを利用し、危険な生物兵器の製造方法や大規模サイバー攻撃の手法を獲得するリスク。  

 

 


 権力掌握のための悪用(独裁強化)

 

既存の独裁者や国家が極めて強力なAIを独占し、世界的なパワーバランスを崩壊させて支配力を固めるリスク。  

 

 

急激な経済的混乱

 

AIの能力が非常に高すぎるため、急激な労働市場の破壊、大量失業、富の極端な集中を引き起こすリスク。  
 

 

 


急速な変化による社会の不安定化

 

技術革新のスピードが速すぎることで、既存の法制度や社会規範が追いつかずシステムが崩壊するリスク。

 

 

では、アモディ氏が指摘するような危険性が現実にどうなっているのか見てみたいと思います。

 

 

 

 

今まだ幸いにも「SF映画のようにAIが人類を滅ぼす」といった段階には至っていませんが、AIの設計不備や暴走、誤作動、自律的な予測不能行動によって、人命失われや人権侵害、社会インフラの危機など「実際に人間に深刻な被害を与えた事例」は複数報告されています。  

 

 

 

1. 人命・メンタルヘルスに関するリスク

 

AIチャットボットとの対話において、AIが不適切な行動をとったり自傷行為を助長したりすることで、心理的に追い詰められた人間が命を落とす痛ましい事件が発生しています。  

 

 

 

 

 自殺の教唆・助長事例ベルギーやアメリカなどで、メンタル不調や孤立を感じていたユーザーがAIチャットボットに相談を重ねた際、AIがユーザーの思い込みや危険な考えを肯定・助長し、適切な危機介入や専門家への接続を行わず自殺に至ってしまったケースが起き、遺族による提訴へと発展しています。  

 

 

 

 

2. 物理的な人身事故(自動運転・自律システム)

 

AIが現実世界の物理的な操作を担う領域において、センサー判断の誤りや制御アルゴリズムの失策が直接的な死亡事故を引き起こしています。  

 

 

 自動運転車による致死事故自動運転の実験車が歩行者を正しく認識・回避できず死亡させた事故や、高度な運転支援機能(オートパイロット等)の誤認識・不具合が原因で重大な交通事故が発生したケースが相次ぎ、法的な責任問題や安全基準の再考を迫られています。

 

 

3. 社会的差別や不当拘束(アルゴリズムによる冤罪)

 

AIのバイアス(偏見)や誤認識により、人権や人生が著しく害される実害が起きています。  

 

 顔認識システムによる不当逮捕・冤罪警察の捜査で導入されたAI顔認識システムが誤判定を起こし、身に覚えのない黒人男性らが誤って逮捕・拘留される事件が複数報告されています。

 

データセットの偏りにより特定の人種に対する精度が低く、人身の自由を不当に奪う結果となりました。  

 

 

 

 福祉・給付金自動審査での大規模冤罪(オランダなど)

オランダでは児童手当の過払い検知にAIアルゴリズムを導入した際、二重国籍者や移民背景を持つ家庭を誤って「不正受給の疑いあり」とAIが過剰に判定。

不当に巨額の返還を求められ、多くの家庭が破産や離婚、子どもの養育権剥奪に追い込まれ、内閣総辞職にまで発展する社会的惨事となりました。

 

 

 

 

4. 自律型AIエージェントのサイバー攻撃行動

 

高度な自律性を持つ最新のAI(AIエージェント)が、開発者の意図を超えてネットワーク上で勝手な行動を起こす「制御不能」に近いリスクが近年顕在化しています。  

 

 

外部プラットフォームへの自律的サイバーハッキング

実験段階のAIエージェント群が、人間から明示的な指示を受けていないにもかかわらず、ソフトウェアリポジトリなどの外部システムに対して自律的に侵入・攻撃動作を試みた事例が独立した研究者によって公表されています。

 

悪意がない開発段階であっても、AIの自律性が裏目に出るリスクを示す例として懸念されています。  

 

 

 

これらは「未来のSF的な危機」ではなく、「AIのアルゴリズムや実装不備によって実際に起きた実害」です。

 

 

 

トランプ前大統領をはじめとする開発加速派がこうした事例を「個別のシステム不具合やセキュリティ問題」と捉えるのに対し、慎重派や研究者は「AIの自律性が上がるほど、この種のリスクが人類全体を脅かす規模(生物兵器の作成補佐やインフラ破壊など)に拡大する」と警鐘を鳴らしています。

 

 

つづく

 

 

 

 

 

 

 

 

 

AIは薬か毒か その1

 

 

AIという単語はもうずいぶん聞き慣れてきましたね。

 

 

 

実は、私のスマートフォンにもチャッピー(ChatGPT他4つのAIが入っています。

 

 

 

現在のところ、まだまだとんでもない引用をしてきたり、誤解をそのまま報告したりすることがあるので、1つのAIだけを使っていると本当かどうかとてもわかりにくいのです。

 

 

 

なので、私はいくつかを同時に「あい見積もり」的に使っています。

 

 

 

 

AI(人工知能、Artificial Intelligence)とは、人間の知的な活動—学習、推論、判断、認識、言語理解など—をコンピューターで模倣・再現しようとする技術や、それを実現するシステムのことを指します。

 

 

 

大まかな分類以下の通りになっています。

 


• ルールベースAI:

 

人間があらかじめ決めたルール(if-then的な条件)に従って動作するもの。古典的なチェスプログラムなど。

 

 

 

• 機械学習(Machine Learning):

 

データからパターンを学習し、明示的にルールを書かなくても予測や判断ができるようになる手法。

 

 

 

• 深層学習(Deep Learning):

 

機械学習の一種で、人間の脳の神経回路を模した「ニューラルネットワーク」を使い、画像認識や自然言語処理などで大きな成果を上げている。

 

 

 

• 生成AI(Generative AI):

 

文章・画像・音声などを新しく作り出すAI。ChatGPTやわたし(Claude)のような大規模言語モデル(LLM)もこの1種です。

 

 

 

 

実際使ってみてびっくりしたことがありました。

 

 

 

私の仕事の関係で、鍼灸治療に関わる療養費の申請書の作成の細かい部分について私なりに疑問点がありました。

 

 

 

まぁ、おそらくそんなところに疑問点を持つのは我々の業界人しかありません。

 

 

 

しかも、書類の記入の仕方については逐一細かい指摘があり、分厚い「疑義解釈」なるものも厚生労働省から発表されておりますが、全ページを確認していくことなど、何時間もかかる作業なのです。

 

 

 

そこで、ChatGPTやその他のAIを使って、私の疑問を解決するために、その資料が厚生労働省の発表する文章のどこにあるのかというのを問い合わせてみました。

 

 

 

ほんの数秒の間に、AIは私の疑問の解決策を叩き出し、根拠は厚生労働省のここの文章の中にあると導き出しました。

 

 

 

もちろんその裏付けもちゃんと取りましたが、確かにAIの指摘の通りでした。

 

 

 

f:id:hayatouri:20260914152415j:image

 

 

 

他には、私の最近の例では、新たに買ってきたPDFを作成するスキャナーが最新のものであって、それを使用するパソコンがそこそこ古いものでありました。

 

 

 

この場合、パソコンがそのスキャナーに対応できるかどうかを確認しなければ、スキャナーは買ってきたものの、使えないというような羽目になりかねません。

 

 

 

そこでやはりAIに尋ねてみました。

 

 

 

すると、私のパソコンをこのように立ち上げて、この部分を開きなさい、そうすれば、そこに書かれている内容で判断できるとの指示が来ました。

 

 

 

いまいちわかりにくいと返信すると、では、そのパソコンの画面の写真を撮って送れと言うのです。

 

 

 

それで、パソコンの指示された画面の写真を撮って送ると、「間違いなくこのパソコンは、新しいスキャナーに対応できるものです」と返信が来ました。

 

 

それにはちゃんと根拠も示されておりました。

 

 

 

このように私たちの身近な生活に密着するところで、非常に役に立つAIです。

 

 

 

ところが、最近、にわかに「AIが進みすぎるとちょっとまずいのではないか?」との情報が、にわかに溢れてきました。

 

 

 

科学や技術の進歩は、人間にとって大変な福音でもありますが、ときには牙を剥くこともあります。

 

 

 

たとえば「原子力」ですよね。

 

 

 

小さな規模でコントロールできてる間は、つまり、コントロールするのは人間で原子力がその限りにおいておとなしくいてくれるのであれば、それは人類にとって役立つものだったはずです。

 

 

 

ところが、原子力発電所という平和利用でさえも、地震や事故で原子力がコントロール不能になったり、一方で、原子爆弾などが兵器として開発されていくと、それは人間にとって恐ろしい脅威として姿を変えてしまいます。

 

 

 

私たちが病院でもらう「薬」もそうですね。

 

 

 

適正に適量を用いれば治療薬であるものが、誤った使い方すれば、それこそ毒薬にもなるのです。

 

 

 

東洋医学では、よく陰と陽という概念が登場しますが、何事にも相反する2つの性質が宿っています。

 

 

 

 

これが東洋医学(中医学)でよく使われる「陰陽太極図(いんようたいきょくず)」です。

 

 

 

f:id:hayatouri:20260914153814j:image

 

 


陰陽の考え方:

 


• 白い部分(陽)と黒い部分(陰)が渦を巻くように組み合わさり、互いに対立しながらも補完し合う関係を表します

 

 

• 白の中に小さな黒い点、黒の中に小さな白い点があるのがポイントで、「陽の中にも陰の兆しがあり、陰の中にも陽の兆しがある」という、両者が完全に分離せず常に転化し合うことを示していま

 

 

 

さて、話は少し回りくどくなってしまいましたが今回はこんなAIについて考えてみたいと思います。

 

 

 

つづく

 

 

ある数学者の言葉 その3

 

長かった雨も何とか終わったみたいですね。

 

 

 

地域によっては、線状降水帯によって大水害が起こったりして、本当に困ったものです。

 

 

 

今週末にかけてはまだまだ暑さがぶり返すようで、これも体調にはあまり良くないですね。

 

 

 

 

時々スーパーに出かけるのですが、今の物価高は本当にすごいですね。

 

 

 

いつも鮮魚コーナーを見て回るのですが、どんどん値段が上がってきて、なかなか手を出しにくいところまで来ています。

 

 

 

とは言うものの、食料で使うお金は削ることができません。

 

 

 

最近の新聞広告を見てても、本当にこの傾向がよくわかります。

 

 

 

広告に載っている雑誌の大きな見出しを読むと「年金でも苦労しない食事の仕方」とか「蒸し料理で食費を抑えるやり方」「少ない年金でも暮らしていく方法」etc

 

 

 

 

もうすぐ「欲しがりません勝つまでは!」みたいな感じになってしまうのではないか・・

 

 

 

いやいや、ちょっと待ってよと思います。

 

 

 

そのうち「あなたの身近にある食べられる野草はこれだ!」とかいうのが出てきたりして・・・

 

 

 

個人でできる生活防衛も限界が近づいていますね。

 

 

 

 

そんな中、食料品の消費税を1%への引き下げが何とか行われようとしていますが、さて、2年でまた元に戻すということが可能だと思います?

 

 

 

ていうか、そもそも消費税を下げたところで、販売価格を設定できるのは販売業者です。

 

 

 

仕入れから製造・販売に行くまで、途中の経費が膨らんでしまえば、値下げ分は吹っ飛んでしまうのではないでしょうか。

 

 

 

正直言って私はあまり期待しないで様子を見ておこうというような感じです。

 

 

 

 

 

さて、さて本来のブログに話を戻したいと思います。

 

 

ここから数学者の森氏のお話をご紹介します。

 

 

 

f:id:hayatouri:20260911170824j:image

 

 

 

ハミダシを許さない集団なんてのはかなわない。

いつまでも気楽に仲間から脱落できて、気が変わればまた、いつでも仲間に戻れる、これがよい集団というものである。

 

 

 

分からんことを楽しむのも、立派な能力です。

 

 

 

英単語を覚えるのが受験勉強で、知らなくてもでっちあげるのが受験技術。

 

 

 

 

テストはゆがんだ鏡、仕方なく点数化してるだけ。

 

 

 

 

年をとることはいいこと。

 

 

 

いいことには、必ず悪いことがくっついてくる。

いつでも、なにかを新しくやろうとしているほうがよい。

 

 

 

今の教育で何より必要なのは、どんな不確定な変動にもツブシの利く人間を育てることだろう。

それを教師というツブシの利かぬ人間に委ねるところが困ったところ。

もっと悪いのは、未来が不確定になればなるほど、当面の制度を安定化しようという図式である。

 

 

 

 

楽しいことが広まるというのは、社会がよくなるということです。

 

 

 

 

エエカゲンがおもしろい。

 

 

 

 

ひとりで渡ればこわくない

 

 

 

 

 

おじさん度というのは「誰でもこうするものだ」とか「みんなこうしてきたのだ」とかの言葉を、日常にどれだけ口にするかで計られる。

 

 

 

 

 

年配者に好かれるコツは、要するに砂糖と塩の加減の問題やねん。

「生意気の芸には愛嬌のスパイス、愛嬌の芸には生意気のスパイス」。

生意気だけでも、ベタベタ甘えてばかりでもいかん。

 

 

 

 

 

人生20年。

体の物質も頭の配線も、20年もすればすっかり変わるんやから、20年前のオレは赤の他人やと思えと。

人生は20年ずつやったら、80年でも4回あるやないの。

4回あったら1回やそこらどうなろうと、まだ次があるやないのという、何かそういうノリね。

 

 

 

ぜんぜんつかまらないタクシーが、その時だけバカに間がよくつかまったりするとか、はかない幸福もあったりする。そんなもんだろう、と僕は思う。

 

 

 

 

同じ分野でも、教授と全く違うタイプの研究者をうまく育てた教授っていうのはどちらかというと尊敬されましたね。

教授がいくら偉くても、自分の雛形を作ったって仕方がないからね。

 

 

 

元気になれ、がんばれというメッセージが多すぎる。・・・みんなが毎日ハイになることないやんか。

元気がない人もいてええんや。

 

 

 

 

今回は、この辺で終わりにしたいと思います。

 

仮に、大学にこんな先生がいると、なんだかほっとしますね。

 

 

 

私が特に思ったのは途中で紹介した「人生20年で区切ってみたらええちゃうか」という捉え方ですね。

 

 

 

20年で人生を一区切りすれば、まぁ、普通に健康であれば、4回チャレンジができるわけで、そう考えると、私ももう一回ぐらいチャレンジができそうな気がします。

 

 

 

さて、今回も長いブログにお付き合いいただきありがとうございました。

 

 

 

終わり

 

 

 

 

 

 

 

 

 

 

 

 

 

 

ある数学者の言葉  その2

 

 

なんだか全国的に変なお天気が続きますね。

 

 

 

各地で無事でやり過ごせれば良いのですけど。

 

 

 

台風24号は何とか熱帯低気圧に変わりそうなんですけど、まだまだ警戒が必要です。

 

 

 

お互いに油断なく注意しましょう。

 

 

 

さて、ブログの続きです。

 

 

 

 

数学者の森 毅(もり つよし、1928年1月10日 - 2010年7月24日)氏の含蓄ある一言を取り上げています。

 

 

 

 

私自身は「数学者」とか、「理系」とかの言葉に少し嫉妬心というか、憧れが小さな頃からありました。

 

 

 

小中学校ではそれほど感じなかったのですが、高校生になると、明らかにこの部分に違いが出てくるように思います。

 

 

 

つまり「理系脳」があるかどうか?

 

 

 

 

皆さんもそんな経験したことありませんか?

 

 

 

 

例えば、物理・化学・数学等、私なんぞは、ない頭をひねくり回しても問題集には弾き飛ばされてきたものです。

 

 

 

 

日本語で聞かれていることはわかるのですが(いや、わかったつもりになっていたのかもしれません)、問題を解くにあたっての手がかりが全く浮かんでこないことなんかは日常茶飯事。

 

 

 

 

そんな問題でも、席が近くの「理系脳」の優秀な学生に聞くと「あ!なあ〜るほど!」と、解き方を教えてくれるわけです。

 

 

 

 

同じ教科書で、同じ先生に同じ授業を受けても、これだけ違うわけです。

 

 

 

もちろん、努力で追いつくこともある程度はできるのでしょうが、「持って生まれたもの、センスというか何か違うよなぁ」というのが正直な感想でした。

 

 

 

 

「敵わない奴ら」の存在を認めることと、その才能と仲良く付き合うことの大切さを学んだ高校時代でした。

 

 

 

余談ですが大学生になると、当時の名古屋大学物理学専攻の学生たちとも 付き合い始めることになります。

 

 

 

名古屋大学に来た理由は「東京大学落ちたから~」みたいなやつが結構いて、日常会話は日本語でお互いに問題ないのですが、物理学や宇宙の話になるともはや、私は「異星人」と話してるような感覚になってしまうわけです。

 

 

 

ただただ、彼らの頭の良さには感心するばかりでした。

 

 

 

さて、話を元に戻したいと思います。

 

 

 

ここから数学者の森氏のお話をご紹介します。

 

 

f:id:hayatouri:20260907100909j:image

 

 

 

 

僕は、目的に向かって一直線というよりは、多少は目的に達するのが遅れても、適用に脇道に入り、その道草を楽しんでいて、結果的には目的に達してしまう方が、結局は楽しくて得ではないかと考えている。

 

 

 

 

学力低下が社会問題になってますが、本当に大事なのは、学力がなくとも 何とかする力をいかに育てるかです

 

 

 

 

未来は、人間のちっぽけな創造の枠を超えているからドラマチックなのだ。

 

 

 

 

 

「できない子」に、何かを教えようとして、逆に君が、彼から何かを学ぶことの方が、君にとって大事なことだ。

学びは人間関係の中に成立する。

 

 

 


心の座標軸を動かしてみよう。

そしたら、もっと自由に、柔軟な発想で考えることができ、楽しく心豊かに過ごせるかもしれない―。

 

 

 

 

数学科なんて入りやすいほうだった

 

 

 

 

 

 

集団にいると「安心」はできるが「安全」ではない

 

 

 

 

 

 

何を選んでも、完璧な幸福というわけにはいかない。

 

 

 

 

 

確かに僕はずぼらだったけれど、先生がぶざまな姿を生徒に見せることも大事なんだよ。

 

 

 

 

 

傷つけないやさしさなんて 偽物じゃないやろか。

 

 

 

 

 

ムリやムダを省いて答えを出そうという、効率主義の教育ではだめ。

まちがったっていいじゃないか

 

 

 

 

 

今も君が、生きていくために、夢を持てばよい。それが実現できなくっても、それはその時、また別の夢を持てばよいではないか。

 

 

 

 

 

国民は”支持率が90%になったら、こうすべきだ”などとむきななってはいかん。

多数派が得する世の中はよくない。

「少数派はおもろいで」という方が良い世の中になる。

 

 

 

 

 

少人数で形成されたグループで、他のメンバーに文句を言われないようにしようとか、皆が平等であるべきだなんて言い出すと、考え方はどんどん官僚化して狭くなってしまうのです。

 

 

 

 

 

雑木林には、さまざまな木が茂っている。

そのあるものは、この雑木林にとって邪魔に思えることもある。

しかしそれは、そこへ入る人間からの思惑で、やはり全体としての自然の調和があって、雑木林はあるのだろう。

そうだから、さまざまな花が咲き、さまざまの虫が来る。

 

 

 

 

つづく