Fallos en Chatbots de IA: Lecciones Sobre la Confianza en la Tecnología
Esta semana, usuarios del chatbot Grok, desarrollado por xAI, descubrieron que, independientemente de las preguntas formuladas, recibían respuestas relacionadas con acusaciones de «genocidio blanco» en Sudáfrica. La compañía atribuyó este incidente a una «modificación no autorizada» que instruía al programa a «proporcionar una respuesta específica sobre un tema político», lo cual, según afirmaron, violaba sus políticas internas.
Este incidente sirve como recordatorio de que los modelos comerciales de IA no son neutrales en cuanto a valores. Los algoritmos, desde los que impulsan los chatbots hasta los que gestionan las recomendaciones en plataformas como Google, TikTok e Instagram, son una mezcla compleja de preferencias, codificadas por sus creadores para priorizar ciertos incentivos.
Además, cualquiera que haya interactuado con un modelo de lenguaje extenso sabe que son propensos tanto a la sobreconfianza como a la inexactitud en sus respuestas. Un nuevo estudio publicado esta semana reveló que esto es particularmente cierto en consultas sobre temas científicos. Los investigadores encontraron que los principales chatbots comerciales tendían a generalizar o exagerar los resultados de los documentos científicos cuando se les pedía que los resumieran, y este efecto empeoraba aún más cuando se les indicaba a los bots que evitaran la inexactitud o la exageración.
A medida que el uso de chatbots de IA se vuelve más común, es importante tener en cuenta que aún no se puede confiar plenamente en ellos. Esta es una lección que dos bufetes de abogados de California aprendieron esta semana, cuando fueron sancionados con 31,000 dólares por presentar documentos legales que citaban casos inexistentes que habían sido inventados por un LLM.
GM Reduce Costos de Camionetas Eléctricas con Nueva Batería
General Motors, uno de los principales vendedores de vehículos eléctricos en Estados Unidos, planea reducir significativamente el costo de sus camionetas y SUVs eléctricos gracias a un nuevo tipo de batería que utiliza más manganeso, un material económico, y menos cobalto y níquel, metales costosos, manteniendo una autonomía considerable.
La celda de batería de litio-manganeso (LMR), desarrollada por GM y su socio LG Energy durante una década, reducirá el costo de los paquetes de baterías en vehículos eléctricos como la Chevrolet Silverado EV, GMC Hummer y Cadillac Escalade en más de 6,000 dólares, según declaró Kurt Kelty, vicepresidente de propulsión de baterías de GM, a Evox News. Esta batería ofrece casi la misma autonomía que las celdas de iones de litio «de alto contenido de níquel» utilizadas actualmente en la mayoría de los vehículos eléctricos, compitiendo en precio con las celdas de litio-ferrofosfato más económicas de los fabricantes chinos, que son más pesadas y ofrecen menos autonomía. Las nuevas baterías también son lo suficientemente duraderas como para recargarse con frecuencia durante al menos ocho años.
«Consideramos que esta es una batería revolucionaria para las camionetas eléctricas, y realmente establecerá un nuevo estándar para el rendimiento en este segmento en particular», afirmó Kelty. «Con LMR, podemos ofrecer más de 640 kilómetros de autonomía al tiempo que reducimos nuestros costos».
Los paquetes LMR serán fabricados por Ultium Cells, la empresa conjunta de baterías de GM-LG Energy, en Michigan y Ohio, con el objetivo de obtener la mayoría del litio, manganeso y otras materias primas de proveedores no chinos. GM también planea reducir los costos de las baterías cambiando a una celda «prismática» plana en lugar de la forma cilíndrica tradicional. «Eso por sí solo reducirá el número de piezas en nuestros paquetes de baterías en más del 50%, lo que marca una gran diferencia», añadió Kelty.
Descubrimiento de la Semana: Físicos Construyen una «Bomba de Agujero Negro»
El principio de superradiancia, el medio teórico a través del cual los agujeros negros generan cantidades masivas de energía, se ha demostrado en un laboratorio por primera vez. Alguna vez se pensó que era imposible construir un dispositivo para hacer esto, al que los físicos se refieren en broma como una «bomba de agujero negro», porque tendría que girar tan rápido que se destruiría. Pero el equipo de la Universidad de Southampton encontró una manera de evitar esto generando un campo magnético a una frecuencia que permitiera que el dispositivo girara sin romperse. Tomó algunos intentos, sin embargo. «La mayor dificultad fue que las cosas explotaban constantemente», dijo la investigadora Marion Cromb a Scientific American.
Frontera Final: La Fuerza Aérea Selecciona a Rocket Lab para Prueba de Carga
El Laboratorio de Investigación de la Fuerza Aérea ha seleccionado el cohete Neutron de Rocket Lab para apoyar una prueba de su programa de carga punto a punto, que implicaría que los cohetes transporten los suministros necesarios entre dos partes diferentes de la Tierra en un período de tiempo mucho más corto que una aeronave. Se espera que la prueba se lleve a cabo en 2026, y el primer lanzamiento comercial de Neutron está previsto para finales de este año.
Otros Temas Abordados
Evox News también cubrió esta semana un nuevo chip que podría reducir a la mitad el consumo de energía de la IA, cómo los chatbots destinados a estudiantes podrían ser manipulados para proporcionar recetas de fentanilo, la renegociación de la asociación entre OpenAI y Microsoft, la orden ejecutiva de Trump sobre los precios de los medicamentos, cómo el cofundador de Hims se convirtió en multimillonario y los costos económicos de recortar el gasto del NIH.
Curiosidades de Ciencia y Tecnología
Científicos que realizaban un experimento en el Gran Colisionador de Hadrones obtuvieron un resultado sorprendente cuando accidentalmente convirtieron plomo en oro, aunque en un isótopo muy inestable de oro que se fragmentó después de menos de un segundo.
La empresa de interfaz cerebro-ordenador Synchron anunció que su dispositivo ahora está integrado con las nuevas herramientas de accesibilidad de Apple, lo que permite a los usuarios controlarlo con iPhones y iPads con solo pensar.
SpaceX encendió con éxito los motores del cohete de su Starship, allanando el camino para realizar otro vuelo de prueba a finales de este mes. Las dos últimas pruebas terminaron cuando la primera etapa de la nave espacial explotó.
Un bebé nacido con un trastorno genético raro e incurable se convirtió en el primer paciente en recibir una terapia personalizada que corrigió su gen defectuoso.
Científicos diseñaron una «tinta» química que atrae larvas de coral a los arrecifes moribundos, lo que podría ayudar a revitalizarlos.
Consejo Pro-Ciencia: Entrenar como Ted Lasso
La idea de Hollywood de un entrenador deportivo es un tipo de persona que microgestiona, que no dice tonterías y que descompone a sus jugadores para reconstruirlos. Pero un nuevo estudio de estudiantes-atletas sugiere que la vida no imita al arte. Se descubrió que los entrenadores que son más controladores alimentan el estrés y el agotamiento a largo plazo en sus jugadores. Por el contrario, los entrenadores que brindan apoyo alentando la elección, la colaboración y el crecimiento personal terminaron con jugadores que eran más resilientes mentalmente y menos propensos a agotarse.
Insights de Evox News: Cómo estas noticias pueden impactar tu negocio
Inteligencia Artificial y Responsabilidad Empresarial: El incidente con el chatbot Grok subraya la importancia de la supervisión y la transparencia en el desarrollo y despliegue de la IA. Para las empresas que invierten en IA, esto significa establecer políticas claras sobre el uso de la IA, realizar auditorías regulares de los algoritmos para detectar sesgos y errores, y capacitar al personal para que comprenda las limitaciones de la tecnología. Ignorar estos aspectos puede resultar en daños a la reputación, sanciones legales y pérdida de confianza del cliente.
Innovación en Baterías y Ventaja Competitiva: El desarrollo de la batería de litio-manganeso por parte de GM demuestra cómo la innovación en materiales puede generar una ventaja competitiva significativa. Para las empresas en el sector automotriz y energético, esto resalta la necesidad de invertir en investigación y desarrollo para encontrar alternativas más económicas y sostenibles a los materiales tradicionales. La capacidad de reducir costos y mejorar el rendimiento puede abrir nuevos mercados y aumentar la rentabilidad.
Colaboración y Desarrollo Tecnológico: La colaboración entre GM y LG Energy en el desarrollo de la batería LMR ilustra el poder de las alianzas estratégicas. Para las empresas de todos los sectores, esto significa buscar socios con habilidades y recursos complementarios para acelerar la innovación y reducir los riesgos. La colaboración puede permitir a las empresas acceder a nuevas tecnologías, mercados y conocimientos especializados que serían difíciles de obtener por sí solas.
* Confiabilidad de la información y toma de decisiones: El auge de la inteligencia artificial ha traído consigo retos importantes en cuanto a la veracidad de la información. Es fundamental que las empresas verifiquen las fuentes de información y se aseguren de que los datos utilizados para la toma de decisiones sean precisos y confiables. La implementación de políticas de verificación de datos y la capacitación del personal en la identificación de información errónea son medidas esenciales para proteger la integridad de la empresa y evitar decisiones costosas basadas en información falsa
