Ciencia

Un equipo de investigación sobre superalineación de OpenAI se encuentra desarrollando herramientas para garantizar el control de una inteligencia artificial (IA) sobrehumana para que no pueda volverse contra nosotros. «Creemos que la superinteligencia, una IA mucho más inteligente que los humanos, podría desarrollarse en los próximos 10 años», comentaron este jueves. «Los modelos sobrehumanos en términos generales serían extraordinariamente poderosos y, si se usan mal o no se alinean con los valores humanos, podrían causar daños catastróficos», plantearon los investigadores de OpenAI en las conclusiones de su estudio, publicado recientemente. El equipo considera un imperativo actual el alinear (dirigir y controlar) los futuros sistemas de IA sobrehumanos para que sean seguros y señalan que ahora es el momento adecuado para realizar «avances empíricos en este problema». Los investigadores exponen que las actuales técnicas de alineación de modelos de IA ampliamente utilizadas, como el aprendizaje por refuerzo a partir de la retroalimentación humana (RLHF), serían incapaces de supervisar la seguridad de los modelos sobrehumanos más inteligentes que ellos.

El director ejecutivo de Tesla, SpaceX y X (antes Twitter), el multimillonario Elon Musk, planea establecer una universidad en la ciudad estadounidense de Austin, según se desprende de sus declaraciones de impuestos, citadas por Bloomberg este miércoles. Se prevé que esta incursión en la docencia, sin embargo, comience con una escuela primaria y una secundaria, enfocada la primera en ciencias naturales y la segunda en disciplinas afines a la ingeniería. La institución, que ya ha recibido 100 millones de dólares de Musk, pretende luego, «en definitiva, expandir sus operaciones para crear una universidad dedicada a la educación al nivel más alto», reza una aplicación dirigida al Servicio de Impuestos Internos de EU (IRS, por sus siglas en inglés). De acuerdo con el documento, se espera empezar con una matrícula de 50 estudiantes y contratar a un director ejecutivo, profesorado y administrador. Cuando se establezca la universidad, se contratará un «cuerpo docente experimentado» y se presentará un programa de estudios «junto con la experiencia de aprendizaje interactivo, incluyendo simulaciones, estudios de caso, proyectos de fabricación y diseño y laboratorios». De momento, los representantes del multimillonario no han respondido a la solicitud de comentarios.

Un grupo de investigadores de la Universidad de Washington (EU) demostró que las células de la retina humana tienen la capacidad de convertirse en neuronas que podrían ser utilizadas para tratar la pérdida de visión, consigna el portal Medical Xpress. En los mamíferos, la degeneración de las células de la retina debido a una enfermedad es un proceso irreversible que puede provocar ceguera. Sin embargo, se sabe que la regeneración de neuronas de la retina es posible en algunos animales vertebrados no mamíferos, como peces y aves. Esta acción es impulsada por unas células gliales retinianas, conocidas como ‘glías de Müller’, que pueden reingresar al ciclo celular (conjunto ordenado de fases que conducen al crecimiento y división de la célula) y reprogramarse en células madre neuronales después de una lesión en la retina. En un nuevo estudio, recientemente publicado en la revista Stem Cell Reports, se reportó que se logró estimular a la glía de Müller para generar nuevas neuronas ‘in vivo’ en la retina humana, luego de someterla a la sobreexposición (elaboración de múltiples copias de una proteína o sustancia) del factor de transcripción proneuronal Ascl1.