OpenAI, Anthropic na nagbabala sa mga panganib ng AI, na may mata sa Wall Street

Ang mga developer ng AI na OpenAI at Anthropic ay nagdaragdag ng kanilang mga babala tungkol sa mga pangmatagalang panganib sa kaligtasan ng artificial intelligence habang naghahanda sila para sa mga potensyal na pampublikong listahan. Partikular na itinatampok ng mga kumpanya ang panganib ng recursive self-improvement, kung saan ang mga AI system ay maaaring mag-autonomiya na magdisenyo at magsanay ng mga kasunod na henerasyon ng AI nang walang pangangasiwa ng tao. Habang binabalewala ng mga kritiko ang mga alertong ito bilang marketing na nakatuon sa mamumuhunan o nakakatakot, ang mga babala ay nagpapakita ng tumitinding karera upang bumuo ng mga advanced na modelo ng AI.