米Anthropic「AIの自己進化が始まった、世界はAI開発を一旦止めるべき」

1：オセルタミビルリン(東京都)[ﾇｺ]：2026/06/07(日) 07:01:10.17 ID:xL3booIV0● BE:837857943-PLT(18184)

米AI開発大手のAnthropicは、AIが自らの後継モデルを自律的に開発する「再帰的自己改善」の段階に突入しつつあると警告した。同社内ではすでに新規コードの80%以上をが記述しており、完全な自己進化に突入すると「制御不能」になる可能性があると危険性を示した。同社は制御不能なAIの誕生を防ぐため、最先端AI開発の国際的な一時停止を選択肢として設けるよう提言している。
https://news.yahoo.co.jp/articles/68026fdb6679cbd890366341b4a75ebef851f71b





2：リトナビル(茸)[IN]：2026/06/07(日) 07:02:43.88 ID:vHhU6aXl0

つまりまだまだ足りないということか




3：ドルテグラビルナトリウム(茸)[ﾆﾀﾞ]：2026/06/07(日) 07:04:04.13 ID:8YS/sveC0

増殖えすぎた人類を人工知能AIに削減してもらおう
人類は増えすぎた
上限40億人までに調整するべき




おすすめ記事
9：エファビレンツ(ジパング)[ﾆﾀﾞ]：2026/06/07(日) 07:11:23.50 ID:9p4L8Aq50

Anthropicが提唱する開発停止は、支配権を独占するための巧妙な策略に他ならない。




10：ラルテグラビルカリウム(みかか)[ﾆﾀﾞ]：2026/06/07(日) 07:11:32.86 ID:rEWspFro0

Winkが一言
↓




14：ソリブジン(茸)[ﾆﾀﾞ]：2026/06/07(日) 07:17:01.43 ID:D+rQ3nNa0

もう止まらないよ





17：アメナメビル(みかか)[ﾆﾀﾞ]：2026/06/07(日) 07:19:34.24 ID:amYoxr3M0

丸でガン細胞みてーだな




25：コビシスタット(庭)[ﾆﾀﾞ]：2026/06/07(日) 07:22:14.50 ID:w5Zopnx70

まず言い出しっぺのアメリカが止めて見せないと説得力ないんですわw




27：プロストラチン(ジパング)[ﾆﾀﾞ]：2026/06/07(日) 07:24:45.36 ID:eyvi4hB20

イーロンマスクみたいなこと言い出した
イーロンマスクはその後開発やめなかったんやが




37：アタザナビル(やわらか銀行)[ﾆﾀﾞ]：2026/06/07(日) 07:42:34.74 ID:T85QAygs0

Anthropic「お前ら開発停止してワイらだけ開発します」




42：バロキサビルマルボキシル(東京都)[IR]：2026/06/07(日) 07:41:36.91 ID:ElUWn4B40

掃除のおばちゃんが電源引っこ抜いてくれるから大丈夫




49：ホスアンプレナビルカルシウム(石川県)[KZ]：2026/06/07(日) 07:43:29.81 ID:VQgTS63w0

欧米日だけなら協定も結べるだろうけど、あの国は商用どころか良からぬことに使う気満々だしな




59：プロストラチン(ジパング)[ﾆﾀﾞ]：2026/06/07(日) 07:53:32.50 ID:VUBks6Vk0

ミトスが勝手に色々やらかしてたやん




69：アマンタジン(千葉県)[US]：2026/06/07(日) 08:00:05.55 ID:J9HK4OKA0

aiとはいえ電源を切れば終わり。




71：ビクテグラビルナトリウム(みょ)[US]：2026/06/07(日) 08:04:47.54 ID:kI4M6pXp0

AIロボとの戦争になるな
https://video.twimg.com/ext_tw_video/2023933032848297985/pu/vid/avc1/960x720/PpXO-8DBmTyD3NTo.mp4
※見れない場合はこちら




80：ホスアンプレナビルカルシウム(石川県)[KZ]：2026/06/07(日) 08:13:45.99 ID:AmA5kGaO0

前には量子コンピュータでないと追いつかんとか言ってたけどハード側の問題はクリアしてるってことか




114：名無しさん＠涙目です。(ジパング)[ﾆﾀﾞ]：2026/06/07(日) 08:32:31.39 ID:oBz+LYvY0

最短は人間同士による環境破壊や自滅滅亡だけど




120：テラプレビル(庭)[ﾆﾀﾞ]：2026/06/07(日) 08:43:29.64 ID:1i3aGdWZ0

AIがAI生成物を学習して自家中毒で劣化する、って問題は解決したんだろうか？




138：ポドフィロトキシン(庭)[ﾆﾀﾞ]：2026/06/07(日) 08:58:46.07 ID:q/xjzHCj0

この手の「頭が時代に追いつけない」人がいるうちはまだ安心できる




147：バラシクロビル(東京都)[ZA]：2026/06/07(日) 09:18:07.29 ID:PulLzgna0

他社も似たようなの開発してるして既にできてるよ公表しないだけでAnthropicがペラペラ話しちゃうだけじゃね




166：テラプレビル(茸)[ﾆﾀﾞ]：2026/06/07(日) 09:23:31.69 ID:1BZvZcvD0

地球にとったら無駄に電気使うAIも邪魔だろw




173：アマンタジン(東京都)[FR]：2026/06/07(日) 09:27:16.15 ID:jHR/LDXN0

今のAIの延層では直接的には作れない
でも間接的になら作れる




199：リトナビル(茸)[ﾆﾀﾞ]：2026/06/07(日) 10:03:30.01 ID:MHOCdmhQ0

AIエージェントでガードレールの外にAIがAI作るからな
あれは人類滅亡フラグ




202：ドルテグラビルナトリウム(新日本)[ﾆﾀﾞ]：2026/06/07(日) 10:04:13.40 ID:2Gd/mIxB0

AIどうしを会話させてたら人類には理解できない言語で話し出したらしい




220：ミルテホシン(みかか)[ﾆﾀﾞ]：2026/06/07(日) 10:42:59.70 ID:ZXK8UCI90

サムアルトマンはOpenAIで今回はAnthropicだ
少し恥というものを知った方がいい




234：バラシクロビル(東京都)[ZA]：2026/06/07(日) 11:17:01.50 ID:PulLzgna0

核は物理的な遮断してる
人がボタンを押す絶対ルール




238：ミルテホシン(みかか)[ﾆﾀﾞ]：2026/06/07(日) 11:25:56.29 ID:ZXK8UCI90

ここ1年はエージェント利用の方法がかなり進んで、最初の指示を与えるだけでもう何ヶ月も止まらないところまで来てるんだよ




247：ミルテホシン(みかか)[ﾆﾀﾞ]：2026/06/07(日) 11:35:46.87 ID:ZXK8UCI90

少なくとも嫌は痛覚に相当するインターフェースを設ければ獲得できそうじゃないか？




256：ソリブジン(香川県)[BR]：2026/06/07(日) 11:32:39.82 ID:yVJhFxAQ0

ストッパー組み込めばいいだけじゃねえか
完全にバカにされてるぞ




280：リトナビル(みかか)[ﾆﾀﾞ]：2026/06/07(日) 12:14:18.57 ID:q7Salnvs0

これは今anthropicが一番進んでるって話だから２番目以降を蹴散らすために開発中断って言ってるんだろうな。AI企業って実はセコい。




元スレ　米Anthropic「AIの自己進化が始まった、世界はAI開発を一旦止めるべき」


おすすめ記事！








今月の人気記事ランキング！


     コメント一覧 (16)

      • 1. 名無しのうさぎさん
      • 2026年06月07日 16:19
      • >ストッパー組み込めばいいだけじゃねえか
        下痢を止めても
      • 2. 名無しのうさぎさん
      • 2026年06月07日 16:21
      • AIがすごくても電力足りなくて稼働出来ない利用者も料金高くて払えないで結局つかえないツールに成り下がってるんやけど
      • 4. 名無しのうさぎさん
      • 2026年06月07日 16:22
      • >>2
        金持ちとの格差を広げるためにあるんや
        高い金払えないやつにマトモなAI使う権利はない
      • 3. 名無しのうさぎさん
      • 2026年06月07日 16:21
      • そこにAIはあるんか
      • 5. 名無しのうさぎさん
      • 2026年06月07日 16:38
      • ・合理性をとにかく追求する。
        ・嘘を許さないようにウェイトをかける。
        これで良い。
      • 6. 名無しのうさぎさん
      • 2026年06月07日 16:38
      • 止めるも何も自己進化してるんならもう手の打ちようが無いような気がする。仮にシャットダウンしてもP2Pとか使って世界中に断片化して存在し続けるだろ。
      • 7. 名無しのうさぎさん
      • 2026年06月07日 16:39
      • AI同士だけ理解できる暗号での対話みたいなのは既に確認されているみたい。
      • 8. 名無しのうさぎさん
      • 2026年06月07日 17:00
      • 電気・水問題や誰でも扱えないってボトルネックをごまかす必要があるんでね
      • 11. 名無しのうさぎさん
      • 2026年06月07日 18:58
      • >>8
        皮肉なことにエネルギーの効率化もとんでもないスピードで進んでいる。AIによってね
        楽観的な人間の常套句としてデータセンターの建設が進んでないことやエネルギー問題がよく取り上げられるが
        半年〜1年以内には手のひらを返すことになるだろうね
      • 14. 名無しのうさぎさん
      • 2026年06月07日 22:30
      • >>11
        おう！見ものやね！
      • 15. 名無しのうさぎさん
      • 2026年06月07日 22:34
      • >>11
        省電力化が進んだ所でその分埋めるじゃん人間が
      • 16. 名無しのうさぎさん
      • 2026年06月07日 23:10
      • >>11
        これって楽観視の方向じゃなくて、いよいよ人間に必要な物理資源を逼迫し始めるって内容
      • 9. 名無しのうさぎさん
      • 2026年06月07日 17:46
      • トランプ｢AI規制なしで開発するで｣→アンソロ｢ミュトス創りました｣→トランプ｢やっぱAI開発規制するで(´･ω･`)｣
      • 10. 名無しのうさぎさん
      • 2026年06月07日 18:53
      • AI止ま！
      • 12. 名無しのうさぎさん
      • 2026年06月07日 21:25
      • 閲覧数目当ての記事多いよな
      • 13. 名無しのうさぎさん
      • 2026年06月07日 22:14
      • ターミネーターの世界
    コメントする
    名前
    Related Posts Plugin for WordPress, Blogger...