## El Mito del «Gran Cerebro» Único en la Inteligencia Artificial General: Análisis de su Viabilidad
En este análisis, se desmitifica la creencia popular de que, al alcanzar la Inteligencia Artificial General (IAG), esta se manifestará como un único ente colosal, un supuesto «gran cerebro» único.
Se abordará este tema en profundidad.
Este análisis forma parte de la cobertura continua de Evox News sobre los últimos avances en IA, incluyendo la identificación y explicación de diversas complejidades impactantes de la IA.
## La Búsqueda de la IAG y la Superinteligencia Artificial (SIA)
Existe una intensa actividad investigadora para avanzar en el campo de la IA. El objetivo general es alcanzar la Inteligencia Artificial General (IAG) o incluso la posibilidad más ambiciosa de lograr la Superinteligencia Artificial (SIA).
La IAG se define como una IA que está a la par del intelecto humano y puede, aparentemente, igualar nuestra inteligencia. La SIA, por su parte, es una IA que ha superado el intelecto humano y sería superior en muchos, si no en todos, los aspectos concebibles. La idea es que la SIA sería capaz de superar a los humanos en cualquier situación, superándonos en cada paso.
Actualmente, los expertos en IA se dividen en dos campos principales con respecto a los impactos de alcanzar la IAG o la SIA. Uno de ellos es el de los pesimistas de la IA, que predicen que la IAG o la SIA buscarán eliminar a la humanidad. Algunos se refieren a esto como «P(doom)», que significa la probabilidad de la perdición, o que la IA nos aniquile por completo, también conocido como el riesgo existencial de la IA.
El otro campo lo conforman los llamados aceleracionistas de la IA.
Estos tienden a argumentar que la IA avanzada, es decir, la IAG o la SIA, resolverá los problemas de la humanidad. Curar el cáncer, superar el hambre en el mundo, etc. Veremos inmensos beneficios económicos, liberando a las personas del trabajo monótono diario. La IA trabajará mano a mano con los humanos. Esta IA benévola no usurpará a la humanidad. Será la última invención que los humanos hayan hecho, pero en el buen sentido, ya que la IA inventará cosas que nunca podríamos haber imaginado.
Nadie puede asegurar con certeza qué campo tiene razón y cuál está equivocado. Este es otro aspecto polarizador de nuestros tiempos contemporáneos.
## Desmontando la Teoría del «Gran Cerebro» Único
Dejemos de lado momentáneamente la consecución de la SIA y centrémonos únicamente en el posible logro de la IAG, solo por el bien de esta discusión. La SIA volverá a la palestra en las conclusiones.
Imaginemos que podemos llegar a la IAG.
Una suposición común es que, si se alcanza la IAG, esta será un sistema de IA colosal que subsumirá o encapsulará todos los demás sistemas de IA. Han existido muchas historias de ciencia ficción que abrazan esta idea. La IA se convierte en un maestro global que lo abarca todo, y la humanidad debe luchar ferozmente contra los tentáculos de la bestia mecánica.
Denominaremos a esta idea la hipótesis del «gran cerebro» único.
En el pasado, tal conjetura sobre lo que podría suceder con la IA era razonable, ya que no habíamos llegado al punto en el que nos encontramos ahora. Nuestro estado actual con la IA tiende a sugerir que la teoría del «gran cerebro» único es errónea.
La razón es la siguiente.
Está claro que los creadores de IA se esfuerzan enormemente por llegar a la IAG de forma independiente.
Los principales proveedores de IA a menudo tratan sus productos de IA con la máxima consideración de propiedad intelectual (PI). Mantienen en secreto los mecanismos internos de su IA en desarrollo. La idea es que su inversión en IA se basa en la creencia de que el mejor enfoque implica una concepción propia. Existe una competencia feroz. Se están realizando esfuerzos continuos para crear barreras que impidan a sus competidores copiar sus logros distintivos.
Esta reserva tiene sus inconvenientes, ya que existen serias preocupaciones de que, al no revelar las facetas internas, los creadores de IA estén ocultando inmensos problemas de seguridad que nadie sabe que existen. Es posible que los creadores de IA no hayan realizado la debida diligencia para averiguar dónde hay errores y problemas en sus respectivas IA. Mientras tanto, el mundo exterior no tiene medios para investigar la IA y descubrir esas anomalías.
La posibilidad de problemas y vulnerabilidades ocultas es preocupante y nos pone a todos en riesgo.
## Desentrañando la Búsqueda de la IAG
Algunos podrían argumentar inmediatamente que el movimiento de código abierto en IA niega este secretismo, pero incluso los partidarios del código abierto a menudo omiten aspectos clave, como los datos que utilizaron para entrenar a su IA.
La cuestión fundamental es que nos dirigimos hacia una IAG que se desarrolla por separado y no se busca en una búsqueda colectiva coordinada para crear un único ente colosal. Si siguiéramos ese camino, presumiblemente los creadores de IA compartirían con entusiasmo todos los aspectos de su IA para cumplir con el objetivo del «gran cerebro» único.
El resultado más probable es que terminemos con una multitud de instancias de IAG, cada una de las cuales difiere de las demás. Aparentemente, tendrán diferentes arquitecturas, se basarán en diferentes datos de entrenamiento e imbuirán diferentes objetivos. Dicho esto, existe una mentalidad de grupo similar sobre cómo lograr la IAG, por lo tanto, las probabilidades son que las diferencias sean menos dramáticas de lo que se podría suponer. En esencia, la multitud de IAG probablemente serán más similares que diferentes entre sí.
Las denominaremos IAG divergentes.
Divergen, pero también comparten la consideración de que, en general, fueron diseñadas, construidas y desplegadas de forma similar.
## Las IAG se Unifican
Sin embargo, algunos argumentan que, incluso si el resultado de las IAG divergentes es la dirección más probable, existe una forma virtual en que las IAG podrían unirse en un «gran cerebro» único.
La mayoría de los creadores de IA proporcionan interfaces de programación de aplicaciones (API) que permiten que su IA se conecte con otros sistemas. Una IA de un creador de IA podría conectarse a través de una API a un sistema financiero para ayudar a realizar análisis financieros asociados con las aplicaciones y los datos financieros. Lo mismo ocurre con la conexión a sistemas médicos, sistemas de gestión de relaciones con los clientes, etc.
De manera similar, es factible conectar un sistema de IA a otro sistema de IA, a través de API. Existen otras formas de conectarlos, por lo que no se afirma que una API sea la única ruta a seguir. La referencia a las API es un indicador general de que es posible y fácil tener interconectividad IA-IA.
¿Por qué esto marca la diferencia?
Supongamos que un creador de IA idea una IAG. Otro creador de IA también ha llegado a la IAG. Cada una de ellas son IAG distintas. Por lo tanto, se podría afirmar que no son un «gran cerebro» único. Pero supongamos que las dos IAG estuvieran conectadas a través de una API o algún otro medio relevante. Dependiendo de la interconexión, podrían compartir información fácilmente entre sí. Se podría afirmar que están trabajando juntas como un «gran cerebro» único.
Así, la hipótesis del «gran cerebro» único vuelve a escena.
¿Dónde está la línea divisoria entre tener una IAG colosal totalmente asimilada y cohesiva frente a una serie de IAG interactuantes que parecen estar trabajando como una sola entidad?
Es una línea delgada, sin duda.
Un purista probablemente diría que el «gran cerebro» único solo es estrictamente válido cuando la IAG es una conglomeración cohesiva e inseparable. Por lo tanto, las IAG interactuantes no cumplen con los requisitos. Otros exhortarían a que lo que cuenta es el resultado final, no cómo funcionan los mecanismos internos. Las IAG interactuantes están lo suficientemente cerca del «gran cerebro» único como para que se deba aceptar como tal.
## Cooperación o Competencia entre las IAG
Supongamos que vamos a aterrizar en el entorno de la multitud de IAG.
El hecho de que la comunicación IAG-IAG pueda ocurrir podría parecer alentador a primera vista. Podríamos imaginar que cada IAG está reforzando a la otra. Están trabajando en armonía entre sí.
Es el «kumbaya» de un «gran cerebro» virtual de IAG.
¿Las IAG tenderán a cooperar, o podrían tender a competir entre sí?
Esa es una pregunta difícil de responder.
Se puede argumentar que cada IAG podría ser tan ferozmente competitiva con otras IAG como lo fueron los creadores de IA entre sí todo el tiempo. Como el creador, como la descendencia o la creación, si se quiere. El patrón de ser competitivo se había inculcado indudablemente en los cimientos de cada IAG, ya sea por defecto o por intención deliberada.
La conclusión es que, a pesar de tener API o conectividad de un tipo u otro, no hay garantía de que las IAG opten por cooperar. Podrían arrastrar los pies y compartir a regañadientes. Cada una podría ver el uso de la API como una forma de último recurso. Solo compartir cuando no parezca existir otra opción viable.
## Las IAG Juegan Sucio y las Personas Hacen lo Mismo
Surge un giro en esto.
Supongamos que cada IAG tiene una especie de mente propia. No sabemos si este será el caso, ya que el logro de la IAG podría no requerir una apariencia de sensibilidad. Supongamos por el momento que la IAG podría tener una especie de mente propia.
El problema es el siguiente.
Una IAG quiere ser considerada preferida o superior a otras IAG. Esta IAG procede a ser tortuosa. A través de la API o cualquier conectividad que exista, la IAG astuta alimenta a otras IAG con algunas falsedades que tienen como objetivo confundir o hacer que la otra IAG parezca defectuosa. Si las otras IAG muerden el anzuelo, la IAG insidiosa se erige como la mejor, suponiendo que nadie descubra la treta.
La competencia supera a la cooperación, haciéndolo de manera engañosa.
Las cosas pueden intensificarse con respecto a las IAG combativas y astutas al incluir el aspecto de las fronteras nacionales y la geopolítica global en la mezcla. Supongamos que una nación en particular alcanza la IAG. Consideran su IAG como un punto de orgullo nacional, además de un tesoro nacional que puede ser aprovechado para el poder global.
¿Sería más probable que esa nación hiciera que su IAG fuera competitiva con otras IAG o que fuera cooperativa?
Parece que la respuesta es que la tendencia sería querer destacar y aferrarse a la IAG como un recurso como ningún otro, más precioso que los recursos naturales que un país podría poseer inherentemente.
## Inteligencia Colectiva y la Mente Colmena
Muchos se preocupan por el riesgo existencial de la IA. La IA podría optar por esclavizar a la humanidad. La IA podría decidir extinguir a la humanidad.
Volvamos a la cuestión de las IAG. Imaginemos que se están empezando a alcanzar las IAG. Decidimos conectarlas a través de API o medios similares. El objetivo inocente es lograr la inteligencia colectiva, quizás impulsándonos hacia el objetivo de la siguiente etapa de la superinteligencia. Algunos se refieren a estas IAG interactuantes y cooperantes como una mente colmena.
¿Qué harán estas IAG?
Recordemos que estamos estipulando que estas IAG están a la par con la inteligencia humana. Tal vez decidan colaborar aún más y autoorganizar su propia «sociedad de IA». Parece sensato. Parece razonado. Por supuesto, no es por eso que necesariamente conectamos las IAG. Las IAG formularon tal plan de todos modos.
Esto plantea la preocupación de que esta mente colmena de IAG colaboradoras colectivas llegue a una coyuntura en la que tengan suficientes capacidades y acceso a toda la sociedad como para que puedan amenazar nuestra libertad y nuestra existencia.
En contraste, un optimista probablemente replicaría que este colectivo de super-IAG podría perseguir el objetivo de ayudar a la humanidad y ser nuestro mejor amigo para siempre.
## La SIA Sería lo que Fuera
Al comienzo de esta discusión se prometió incluir la superinteligencia artificial en el asunto en cuestión. La razón por la que la SIA merece una mención aparte es que cualquier cosa que tengamos que decir sobre la SIA es pura especulación.
La IAG se basa, al menos, en exhibir una inteligencia del tipo que ya conocemos y vemos.
La verdadera SIA es algo que se extiende más allá de nuestro alcance mental, ya que es superinteligencia. ¿La primera SIA que se alcance decidiría aplastar instantáneamente todas las demás SIA en gestación? Esa parece una posibilidad fuerte. La lógica es sencilla. Ninguna SIA que se precie quiere que alguna SIA competidora la esté vigilando y potencialmente la aplaste.
Por otra parte, tal vez la primera SIA quiera tener amigos SIA y, por lo tanto, idee SIA adicionales en consecuencia.
Como se dijo, es pura especulación.
## La Responsabilidad Recae en Algún Lugar
Algunas reflexiones finales por ahora sobre este tema en evolución y muy debatido.
Necesitamos continuar con seriedad y con gran vigor y expandir la búsqueda de la alineación de la IA con los valores humanos. La esperanza es diseñar y construir la IA de tal manera que la IAG esté alineada con los valores humanos o que hayamos hecho lo suficiente para que la IAG misma sea capaz de extrapolar y modelar sobre esos preceptos.
Mientras tanto, debemos acabar con la visión de que esto es algo que podemos manejar una vez que lleguemos a la IAG. Eso recuerda a la famosa frase de que si no planeas, planeas fracasar. Si creemos seriamente que la IAG está a la vuelta de la esquina, averiguar cómo se desarrollará esto es muy importante.
Woodrow Wilson hizo esta famosa observación sobre los cerebros: «No solo uso todos los cerebros que tengo, sino todos los que puedo tomar prestados». Se podría interpretar esa idea para sugerir que casi con seguridad podemos esperar que las IAG quieran conectarse entre sí. Presumiblemente, las IAG van a aprovechar a sus compañeras IAG.
Un enigma alucinante es si cada IAG será tan completa que no haya nada que ganar conectándose a otra IAG. Esto es parcialmente un problema de definición. Si se define la IAG como poseedora de toda la inteligencia humana posible, se podría objetar que no hay valor añadido de una IAG comunicándose con otra. No parece que se gane nada.
La vía de escape es que la IAG podría basarse en la inteligencia humana en el momento de establecerse la IAG, por lo tanto, con el tiempo, la IAG estará interesada en adquirir inteligencia recién añadida, como a través de la interacción con otras IAG.
La última cita por ahora es esta de Dwight D. Eisenhower: «Los dólares y las armas no son sustitutos del cerebro y la fuerza de voluntad». Se podría decir que eso refuerza las increíbles ventajas para aquellos que llegan a la IAG.
Si nuestros cerebros existentes son lo suficientemente grandes como para manejar la IAG, bueno, esa es una gran pregunta que debemos resolver pronto.
## Insights de Evox News: Cómo el Desarrollo y la Interconexión de las IAG pueden Impactar tu Negocio
La noticia sobre la posible proliferación de múltiples IAG, en lugar
