AI研究を自動化するAI開発後わずか数カ月以内に劇的に高度なAIが知能爆発により誕生する可能性は高い(30~60%)と言うレポートが出された。 by bioshok（INFJ） @bioshok3

https://x.com/bioshok3/status/1904991099091116210

https://x.com/bioshok3/status/1904991099091116210

しかも計算資源が固定化され、収穫逓減要素を考慮してこの結果となる。現在のAI研究開発リターンの証拠数値はr>1を示しており、AI研究を自動化するAIが開発されると、わずか半年や数カ月で例え計算資源が増えなくて固定でも何百万倍、何十億倍もの効率化がはかれられる可能性が高いと示唆されている。 現状高度なAIの規制では計算量閾値での規制が行われているが、一度知能爆発が起これば計算量による規制はあまり意味を持たなくなる可能性があると懸念が表明されている。そして計算量しきい値だけではなく、性能レベルで早期警戒しきい値を作るべきだと提言している。 ちなみにこのForethoughtという団体は効果的利他主義コミュニティ創設者のWilliam Macaskillが所属しており他のレポートもAGI以後の社会を見通す上で興味深く必見だと感じる。

引用

Daniel Eth (yes, Eth is my actual last name)

@daniel_271828

·

3月27日

New report: “Will AI R&D Automation Cause a Software Intelligence Explosion?”  As AI R&D is automated, AI progress may dramatically accelerate. Skeptics counter that hardware stock can only grow so fast. But what if software advances alone can sustain acceleration?

さらに表示

午前5:17 · 2025年3月27日

·

4.5万

件の表示