Peste 1.000 de experți, inclusiv cel mai bogat om al planetei, Elon Musk, îndeamnă la o pauză de șase luni într-un domeniu care câștigă din ce în ce mai mult teren. Aceștia și-au exprimat îngrijorarea într-o scrisoare deschisă, în care arată posibilele riscuri pentru societate și umanitate. Avertismenul celor mai importanți oameni ai lumii.
Ce se cere în scrisoare
Scrisoarea a fost transmisă de institutul non-profit Future of Life și semnată de peste 1.000 de oameni, inclusiv Elon Musk, CEO-ul Stability AI, Emad Mostaque, cercetătorii de la DeepMind, deținut de Alphabet, precum și Yoshua Bengio și Stuart Russell, nume grele din domeniul inteligenței artificiale, scrie impact.ro.
Astfel, cei mai importanți oameni ai planetei solicită o pauză de șase luni în dezvoltarea sistemelor avansate de inteligență artificială, mai puternice decât modelul GPT-4 recent lansat de OpenAI, invocând posibile riscuri pentru societate și umanitate, notează Reuters.
Sistemele puternice de inteligență artificială ar trebui dezvoltate doar după ce suntem încrezători că efectele lor vor fi pozitive și că riscurile vor fi gestionate„, se spune în scrisoare.
„Sistemele pot prezenta riscuri profunde pentru societate și umanitate”
În scrisoare au fost detaliate și posibilele riscuri pentru societate și civilizație din cauza sistemelor de inteligență artificială competitive, care pot provoca perturbări economice și politice, iar semnatarii au cerut dezvoltatorilor acestora să lucreze cu factorii de decizie politică și autoritățile de reglementare.
„Sistemele de inteligență artificială cu inteligență uman-competitivă pot prezenta riscuri profunde pentru societate și umanitate, după cum arată ample cercetări și după cum recunosc laboratoarele de vârf de inteligență artificială”, susțin semnatarii scrisorii.
Scrisoarea a fost transmisă în contextul în care forța de poliție a UE, Europol, s-a alăturat valului de preocupări etice și juridice cu privire la inteligența artificială avansată precum ChatGPT, avertizând cu privire la potențiala utilizare abuzivă a sistemului în încercările de phishing, dezinformare și criminalitate informatică.
De la lansarea sa de anul trecut, ChatGPT de la OpenAI susținut de Microsoft i-a determinat pe rivali să accelereze dezvoltarea unor modele lingvistice similare, iar companiile să integreze modele AI generative în produsele lor.
„Scrisoarea nu este perfectă, dar spiritul este corect: trebuie să încetinim până când înțelegem mai bine ramificațiile. Ei pot provoca daune grave… marii jucători devin din ce în ce mai secretoși cu privire la ceea ce fac, ceea ce face dificilă apărarea societății împotriva oricăror pericole care s-ar putea materializa„, a spus Gary Marcus, profesor emerit la Universitatea din New York, unul dintre semnatarii documentului.
Mulți experți se tem că, pe măsură ce o cursă a înarmărilor AI se întețește, umanitatea se îndreaptă fără să-și dea seama către o catastrofă. Semnatarii scrisorii spuns că nu cer ca dezvoltarea AI, în general, să fie întreruptă, ci doar să se facă „un pas înapoi”.