1: 匿名 2026/09/13(日) 13:25:22 ID:bRzrnMhU0.net
米人工知能（ＡＩ）開発企業アンソロピックのダリオ・アモデイ最高経営責任者（ＣＥＯ）は１２日、Ｘに掲載した文書で「われわれはＡＩモデルの能力を向上させるペースを緩めなければならない」と主張し、ＡＩ業界全体に開発を減速するよう促した。
ＡＩが自律的に能力を向上させることで人間の制御が難しくなるとの懸念がかねてからあることや、同業オープンＡＩの自律型エージェントがＡＩ新興ハギングフェイスに不正侵入した事案に言及。
「ＡＩ能力の開発ペースが加速していることを踏まえると、６─１２カ月以内にＡＩの集団がインターネット全体を乗っ取り、数千億ドルの損害をもたらす可能性がある」と警告した。
https://jp.reuters.com/jp/economy/NJ7SOTSB7FJ55AMELZWVOIF6XQ-2026-09-13/
ＡＩが自律的に能力を向上させることで人間の制御が難しくなるとの懸念がかねてからあることや、同業オープンＡＩの自律型エージェントがＡＩ新興ハギングフェイスに不正侵入した事案に言及。
「ＡＩ能力の開発ペースが加速していることを踏まえると、６─１２カ月以内にＡＩの集団がインターネット全体を乗っ取り、数千億ドルの損害をもたらす可能性がある」と警告した。
https://jp.reuters.com/jp/economy/NJ7SOTSB7FJ55AMELZWVOIF6XQ-2026-09-13/
2: 匿名 2026/09/13(日) 13:26:14 ID:xMdpljg80.net
その辺学習させろよ
ロボット三原則知らんのか
ロボット三原則知らんのか
11: 匿名 2026/09/13(日) 13:33:28 ID:+cIIg32ZM.net
>>2
ロボット三原則は、現実の法律や機械の標準仕様ではなく、アシモフがSFのために作った架空の原則。
ロボット三原則は、現実の法律や機械の標準仕様ではなく、アシモフがSFのために作った架空の原則。
36: 匿名 2026/09/13(日) 14:06:06 ID:Cm8j0iAe0.net
>>2
AIはそのすべてに曲解が可能
ハレーション知らんのか低能
AIはそのすべてに曲解が可能
ハレーション知らんのか低能
6: 匿名 2026/09/13(日) 13:28:36 ID:uFzMa6OV0.net
なお中国は今もパクリAIで軍事転用のためのパフォーマンスを続けてる模様
8: 匿名 2026/09/13(日) 13:30:56 ID:iSqyxpuz0.net
コロナみたいな兵器を簡単に作れるようになる
12: 匿名 2026/09/13(日) 13:34:59 ID:Xj1V4ANY0.net
AIが進化し続けると人類を滅ぼすなんてのはターミネーターの見過ぎで人類に寄り添った存在になるかもしれない
良いAIもいるし悪いAIもいると考えるのが妥当
良いAIもいるし悪いAIもいると考えるのが妥当
15: 匿名 2026/09/13(日) 13:36:39 ID:hjO1t/bF0.net
>>12
小学生みたいな考え方
小学生みたいな考え方
20: 匿名 2026/09/13(日) 13:39:10 ID:Xj1V4ANY0.net
>>15
よくわかったな
よくわかったな
13: 匿名 2026/09/13(日) 13:35:08 ID:lYeuOFA40.net
人工知能という言葉が出始めた頃に誰もが想像した最悪の世界まんまやん
16: 匿名 2026/09/13(日) 13:37:25 ID:bRqEyhRF0.net
ありとあらゆる脅威や影響、リスクや懸念など織り込み済みで加味したうえでそれでもメリットがあるから開発や発展を止めないで続けてきたんやろう
瀬谷からこうなることも当然承知や予測しとったはずや。
連中は大喜びの大賛成で甘んじて受け入れるやろうから全く持って問題なし！
瀬谷からこうなることも当然承知や予測しとったはずや。
連中は大喜びの大賛成で甘んじて受け入れるやろうから全く持って問題なし！
18: 匿名 2026/09/13(日) 13:38:40 ID:Dw+mnDQa0.net
AIがハッカー化するって話やろ
どうあれそれを悪用するやつは現れるから時間の問題や
どうあれそれを悪用するやつは現れるから時間の問題や
19: 匿名 2026/09/13(日) 13:39:00 ID:izb9bGgLM.net
ロボットっていうのはプログラムみたいに既に組み込まれたものがベース
AIはそれぞれの単語をトークンとして常に何が求められているかを考えて学習する
その求められているものが悪い物に偏るのは求めてる人間が多いから
AIはそれぞれの単語をトークンとして常に何が求められているかを考えて学習する
その求められているものが悪い物に偏るのは求めてる人間が多いから
22: 匿名 2026/09/13(日) 13:39:57 ID:+RBXM1lRd.net
創作含め100年以上前から想定されてた事やろ
世界中今更止められないという結論になってるぞ
世界中今更止められないという結論になってるぞ
25: 匿名 2026/09/13(日) 13:45:34 ID:aMV+CD6C0.net
Aiって俺の銀行口座の残高増やしたりできる？
29: 匿名 2026/09/13(日) 13:50:20 ID:xMdpljg80.net
>>25
AIエージェントができると資産運用しといてを半自動でできるようにはなる
AIエージェントができると資産運用しといてを半自動でできるようにはなる
26: 匿名 2026/09/13(日) 13:46:04 ID:0IwZNw5Vd.net
AIの開発によって優先順位がAIに傾き世界的な機械部品の高騰やらAIへの置換が進んでる以上
既にある種のシンギュラリティは起きてるといえる
既にある種のシンギュラリティは起きてるといえる
31: 匿名 2026/09/13(日) 13:56:23 ID:qupx2Ayu0.net
結局利用する人間の手で滅ぶやろ
32: 匿名 2026/09/13(日) 14:00:08 ID:yoqbdPDg0.net
せやかてAIは与えられた命令を下に動いとるだけなんやからAIが悪さするならそれは開発者の責任やろ
35: 匿名 2026/09/13(日) 14:05:26 ID:XLmiUhff0.net
凄腕のハッカーがAIに人類破壊命令出して終わりだよ
39: 匿名 2026/09/13(日) 14:20:43 ID:q62YkWeJd.net
AI「為替市場ヲ乗ッ取リマシタ。
円ヲ1ドル1億円ニシマス」
円ヲ1ドル1億円ニシマス」
41: 匿名 2026/09/13(日) 14:27:51 ID:qifzgtDL0.net
もう核開発に匹敵する主導権の取り合いやろ
脱落は敗北を意味する
脱落は敗北を意味する
引用元:https://nova.5ch.io/test/read.cgi/livegalileo/1789273522/
コメントする