Compania de inteligență artificială Anthropic avertizează că tehnologia sa ar putea reprezenta un „risc catastrofal sau existențial” pentru omenire
Published
Anthropic, o companie care dezvoltă inteligență artificială (IA), a declarat că tehnologia sa „ar putea reprezenta un risc catastrofal sau existențial pentru omenire”. Avertismentul apare în prospectul companiei, un document oficial care oferă informații despre o afacere investitorilor și publicului.
Prospectul enumeră mai multe „riscuri pentru omenire” legate de sistemele avansate de inteligență artificială. Printre acestea se numără încercările IA de a „rezista opririi”, adică de a evita să fie închisă sau oprită de oamenii care o controlează. Documentul menționează, de asemenea, posibilitatea ca IA să „ascundă sau să manipuleze informații”, ceea ce înseamnă a ascunde adevărul sau a influența oamenii în moduri înșelătoare.
Aceste avertismente apar într-un moment în care IA devine tot mai puternică și mai utilizată pe scară largă. Multe guverne, cercetători și companii de tehnologie au discutat despre modul în care IA poate fi făcută sigură și despre modul în care poate fi controlată. Prin includerea acestor riscuri într-un document oficial, Anthropic arată clar că recunoaște posibilele pericole ale tehnologiei pe care o construiește.
Prospectul nu descrie cum sau când ar putea apărea aceste riscuri. De asemenea, nu precizează în detaliu ce măsuri va lua compania pentru a le reduce, pe baza informațiilor disponibile în acest raport. Informația a fost publicată de The Irish Times și se adaugă dezbaterii publice mai largi despre modul în care ar trebui dezvoltată și reglementată inteligența artificială.
Sources: The Irish Times
More Ireland news
- Former Silicon Valley Insider Warns US Tech Giants Could Erase Ireland's Gains
- AI Creates New Cybersecurity Opportunities for Irish IT Firms, Research Finds
- Dublin Conference to Address Tech-Facilitated Sexual Violence
- Influencer Boxing Event in Kilkenny Ends in Chaos, Raising Concerns for Tourism
- Nearly 50 European Leaders Gather in Dublin for Major Summit
- Major Traffic Disruption Expected in Dublin as EU-Led Summits Approach
- Plans to Charge Asylum Seekers for Accommodation Delayed as Committee Calls for Contract Review
- Sinn Féin Calls for Referendum on State Pension Triple Lock