Per què la AGI no és imminent: limitacions reals de la IA

El debat sobre la inminència de la AGI

Actualment, figures com Sam Altman i altres líders tecnològics anuncien amb optimisme que la inteligència artificial general arribarà en pocs anys. Però la comunitat científica manté un cert escepticisme basat en evidències sòlides i observacions pràctiques. Aquesta diferència d’opinions pot confondre emprenedors i inversors que depenen d’aquestes prediccions per planificar i decidir.

Limitacions fonamentals dels transformers

Arquitectura feed-forward i cognició superficial

Els models de llenguatge actuals funcionen amb una arquitectura feed-forward que processa la informació d’una sola passada. En canvi, el cervell humà reflexiona iterativament, pensa sobre el seu propi pensament i adapta el raonament en múltiples passos. Això fa que, encara que es multipliquin paràmetres o dades, el processament bàsic dels transformers no evolucioni cap a una veritable intel·ligència general.

Per a una startup, això significa que aquests models brillen en tasques concretes i definides, però fallen quan cal un raonament profund o una adaptació a contextos nous i complexos. No és només un problema d’escala, sinó de disseny.

Absència de primitives cognitives

Els humans utilitzem primitives cognitives essencials com l’atenció selectiva, la memòria de treball, la planificació seqüencial i la metacognició. Els transformers, però, no tenen estructures dedicades per a aquestes funcions. Tot i que poden imitar alguns comportaments mitjançant patrons apresos, això no equival a un veritable procés cognitiu.

Això provoca errors constants en tasques que requereixen mantenir contextos complexos o planificar múltiples passos, un obstacle greu per a aplicacions empresarials avançades.

La bretxa entre benchmarks i capacitats reals

Un dels grans mals de cap és que els models actuals obtenen resultats excel·lents en proves estàndard gràcies a la memòria i reconeixement de patrons, però quan es troben amb situacions noves i desconegudes, el seu rendiment cau en picat.

Per als emprenedors que valoren implementar IA, això vol dir que una demo impressionant no garanteix un comportament fiable en producció. Provar en entorns reals és imprescindible abans d’una inversió gran.

Exemples pràctics de limitacions

Investigacions mostren que els models fallen en problemes senzills quan canvia la forma de presentar-los. Tasques com ara el raonament matemàtic bàsic o la comprensió de causalitats presenten errors alarmants quan el format és diferent del que han vist a entrenar.

Això no és un petit defecte que es resol escalant més el model, sinó una limitació estructural que exigeix noves innovacions.

La importància de la cognició incorporada

Desconnexió del món físic

La cognició humana es construeix en gran mesura a través de l’experiència física i sensoriomotora. La intel·ligència general depèn d’aquesta interactuació concreta amb el món.

Els models actuals aprenen només de text, sense experiència directa, la qual cosa genera comprensions superficials i errors en raonaments sobre propietats físiques i dinàmiques espacials o temporals.

Implicacions per a arquitectures futures

Per assolir una IA realment general, caldrà integrar múltiples modalitats sensorials, aprendre activament a través de la interacció amb l’entorn i dissenyar arquitectures que suportin un cicle percepció-acció similar al biològic.

Aquests reptes són enormes i lluny de resoldre’s, indicant que la AGI està molt més allunyada del que les narratives corporatives suggereixen.

Discrepància entre expectatives corporatives i consens científic

Mentre executius de grans empreses prediuen la AGI en 2-5 anys, enquestes a investigadors de machine learning mostren perspectives més conservadores, parlant en dècades o fins i tot dubtant que sigui assolible amb els paradigmes actuals.

Per als emprenedors, entendre aquesta diferència és clau per evitar decisions basades en promeses inflades que poden provocar fracassos i pèrdues de capital.

Què vol dir això per a l’ecosistema startup?

Les realitats tècniques tenen implicacions clares per a qui construeix solucions d’IA:

• Models actuals excel·leixen en tasques concretes i definides, com l'automatització o l’assistència en processos estructurats.
• És vital mantenir l’escepticisme davant promeses d’IA generalitzada i dissenyar productes que considerin els límits i la necessitat de supervisió humana.
• Existeixen oportunitats desenvolupant sistemes híbrids que combinin IA i intel·ligència humana per compensar les actuals mancances.

Navegant el hype amb perspectiva crítica

El cicle de hype entorn la IA ha creat oportunitats i expectatives inflades. Els emprenedors amb més èxit són els que separen el que és verificable del que és especulatiu, construint sobre la realitat per generar valor sostenible.

Això vol dir deixar de pensar que la AGI ho resoldrà tot i, en canvi, centrar-se en aplicacions on l’IA ja aporta beneficis tangibles.

Checklist per identificar afectacions i estratègies

• Revisa si la IA que utilitzes depèn exclusivament de transformers sense capacitat d’adaptació iterativa.
• Comprova si les tasques que automatitzes són específiques i ben definides o si requereixen raonament profund.
• Avalua si les solucions que consideres poden manejar contextos nous i complexos, més enllà de benchmarks estàndard.
• Inclou humans en el procés per supervisar i corregir errors que la IA no pugui gestionar.
• Planifica estratègies amb una visió a llarg termini, sense caure en narratives que prometen AGI imminent.

Consells addicionals per a la seguretat i manteniment

Per mantenir una implementació saludable i segura d’IA:

• Actualitza constantment els models i les dades d’entrenament.
• Activa sistemes d’autenticació en dos passos (2FA) per protegir accés a plataformes d’IA.
• Supervisa permisos i accés a dades sensibles en aplicacions basades en IA.
• Realitza còpies de seguretat periòdiques dels sistemes i informació crítica.
• Estigues alerta a comportaments inesperats o caigudes de rendiment i busca ajuda especialitzada quan sigui necessari.

Conclusió

La realitat és que la intel·ligència artificial general encara afronta barreres tècniques de gran calat que no es superaran només amb models més grans o més dades. Les limitacions dels transformers, la distància entre els benchmarks i el món real, la manca de cognició incorporada i els reptes essencials d’arquitectura expliquen per què la AGI està molt més lluny que les prediccions més optimistes.

Però això no treu valor a la IA com a eina transformadora; només demana un enfocament pragmàtic i amb els peus a terra per part dels emprenedors. Aquells que entenguin i treballin amb aquestes limitacions estaran millor preparats per construir solucions sòlides i sostenibles.