Kritik Eşik: Yapay Zeka Kendini Tasarlayabilir

Yapay zekanın kritik eşikine ulaşılıyor! AAAnthropic, yapay zeka sistemlerinin giderek daha fazla insan müdahalesi olmadan yazılım geliştirme ve araştırma süreçlerini yürütebildiğini bildirdi. Bu eğilimin devam etmesi halinde kendi kendini geliştirebilen sistemlere dönüşebileceğini belirten rapor, yapay zekanın 'özyinelemeli kendini geliştirme' olarak adlandırılan kapasitesini ortaya çıkardı. Eğer yapay zeka kendinden haleflerini tasarlayıp geliştirebilir, 'kontrolünü kaybettme riskini' artırabilir. Ancak bu, bilim, sağlık ve daha birçok alanda muazzam faydalar sağlayabileceği gibi, insanların yapay zeka sistemleri üzerindeki kontrolünü kaybetme riskini de artırabilecektir. Sistemler kendinden haleflerini tamamen inşa edebilecek kapasiteye sahipse, onları güvence altına alma, izleme ve davranışlarını şekillendirme yöntemlerimiz çok daha importante hale gelir. Bu nedenle, ileri düzey yapay zeka geliştirme sürecinin yavaşlatılması veya geçici olarak durdurulması seçeneğinin değerlendirilmesinin iyi olabileceği belirten rapor, birden fazla güçlü laboratuvarın, birden fazla ülkede, aynı koşullar altında bunu gerçekleştirmesinin anlamlı olduğu kaydedildi. Henüz o noktada değiliz ve özyinelemeli kendini geliştirme kaçınılmaz değil. Ancak çoğu kurumun hazırlandığından daha erken gerçekleşebilir.