En este mundo en el que a veces uno tiene la impresión de estar rodeado de villanos sacados de una película de serie B, asimismo tiene que acontecer buenos. O, al menos, alguno dispuesto a parecerlo. Dos de ellos podrían ser Dario y Daniela Amodei (42 y 39 abriles respectivamente, los dos nacidos en San Francisco, EE UU), cofundadores de Anthropic, una de las start-ups mejor valoradas del planeta, y que en los últimos días se ha puesto en pie de conflagración frente al ejército estadounidense, supuestamente para proteger los intereses de los ciudadanos.. Seguir leyendo. La adolescencia de la IA. Dario Amodei suele desarrollar su visión a través de extensas entradas en su blog personal. Hace poco publicó una titulada The adolescence of technology, donde plantea que la IA se encuentra en una grado comparable a la adolescencia humana.
Los cofundadores de Anthropic se niegan a dar golpe sin límites al Ejército estadounidense a su maniquí de inteligencia industrial
Feed MRSS-S Noticias
En este mundo en el que a veces uno tiene la impresión de estar rodeado de villanos sacados de una película de serie B, asimismo tiene que acontecer buenos. O, al menos, alguno dispuesto a parecerlo. Dos de ellos podrían ser Dario y Daniela Amodei (42 y 39 abriles respectivamente, los dos nacidos en San Francisco, EE UU), cofundadores de Anthropic, una de las start-ups mejor valoradas del planeta, y que en los últimos días se ha puesto en pie de conflagración frente al ejército estadounidense, supuestamente para proteger los intereses de los ciudadanos.. La semana pasada, el Pentágono convocó a Dario, CEO de la empresa (Daniela la preside), a una reunión en Washington para intentar cerrar un acuerdo sobre las condiciones de uso de su tecnología por parte del Departamento de Defensa. El objetivo de Estados Unidos era que Anthropic eliminara las restricciones éticas que impone al uso de su maniquí de IA, Claude, y permitiera al unidad marcial utilizar esa tecnología para “todos los fines legalmente autorizados”.. El viernes vencía el plazo y Anthropic ha rechazado las demandas del Gobierno. La empresa afirma que no puede aceptar esas exigencias, ya que ello podría permitir aplicaciones que considera peligrosas: desde el uso de IA para la vigilancia masiva de ciudadanos hasta su integración en sistemas de armas completamente autónomas, en los que la IA tomaría decisiones letales sin supervisión humana.. Si la compañía mantiene su posición, podría enfrentarse a varias consecuencias. El anuencia que Anthropic mantiene con el Departamento de Defensa, valorado en hasta 200 millones de dólares, podría ser cancelado. Además, podría ser designada como “riesgo para la cadena de suministro”, una calificación especialmente peligroso en el ámbito de la defensa, ya que puede excluir a la empresa de futuros contratos y colaboraciones gubernamentales.. Los hermanos Amodei son hijos de Elena Engel, que dirigió proyectos de renovación y construcción de bibliotecas en Berkeley y San Francisco. El padre, Riccardo Amodei, era un herrero de origen italiano. Murió en 2006 a causa de una enfermedad rara. Dario relató luego la frustración que vivió la grupo por las deficiencias en el tratamiento.. El hermano hombre fue un chico investigador. Formó parte del equipo soberbio de física de EE UU en 2000. Estudió en Caltech (California) y a posteriori en Stanford, donde se licenció en Física. Continuó su formación en Princeton, donde se doctoró en Biofísica en 2011, centrando su investigación en la electrofisiología de circuitos neuronales. Luego hizo una estancia posdoctoral en la Escuela de Medicina de Stanford.. Daniela, casada con Holden Karnofsky, conocido por acontecer cofundado organizaciones filantrópicas, y con quien tiene un hijo, siguió un camino culto orientado a las ciencias sociales y las humanidades. Se graduó con honores en el instituto de secundaria Lowell y obtuvo una chía parcial por su talento musical como flautista. Estudió artes y música, y finalmente humanidades inglesa en la Universidad de California Santa Cruz, donde se graduó summa cum laude. Durante su etapa universitaria recibió varios premios académicos y destacó como solista de flauta.. Daniela comenzó trabajando en proyectos de lozanía y política pública. Participó en iniciativas de mejora internacional vinculadas a la Universidad de Maryland y colaboró con la ONG Conservation Through Public Health en Uganda. También se implicó en la política de EE UU como directora adjunta de campaña en la candidatura al Congreso del demócrata Matt Cartwright en Pensilvania.. En 2013 dio el brinco al sector tecnológico al incorporarse a Stripe, una start-up de tecnología financiera en rápido crecimiento. Comenzó como reclutadora técnica y más tarde asumió responsabilidades en administración de riesgos y operaciones.. Su hermano entró en el sector de la inteligencia industrial antiguamente que ella. Entre 2014 y 2015 trabajó como investigador en machine learning en el buscador chino Baidu. Más tarde se incorporó a Google, donde se especializó en modelos de enseñanza profundo. En 2016 se unió a la entonces incipiente OpenAI. Allí llegó a ser vicepresidente de investigación y supervisó el mejora de modelos como GPT-2 y GPT-3.. En 2018, Daniela fichó por OpenAI como directora de equipos técnicos y luego como vicepresidenta de seguridad y políticas. En 2020, tanto Dario como Daniela abandonaron la ordenamiento próximo a varios colegas, con la intención de emprender un rumbo rotativo centrado en la seguridad de la inteligencia industrial. En 2021 cofundaron Anthropic. El plan nacía de la competición a la nueva ruta que, según ellos, había tomado la compañía dirigida por Sam Altman, que habría pasado a priorizar los intereses comerciales por encima de la investigación rigurosa en seguridad y alineamiento de la inteligencia industrial.. A medida que Anthropic avanzaba con su asistente Claude, su capacidad para atraer hacienda ha crecido de forma exponencial. Este mes ha cerrado una ronda de financiación de 30.000 millones de dólares que sitúa la valoración de la compañía en 380.000 millones. En 2023 fueron incluidos en la inventario Time 100 AI de las personas más influyentes del mundo en este ámbito, y Forbes estima que cada uno acumula una fortuna cercana a los 7.000 millones. Ambos se han mostrado críticos con la concentración extrema de riqueza y aseguran donar más o menos del 80% de sus ingresos.. Anthropic ha flexibilizado algunos de sus principios. Los Amodei han agradecido que su política de seguridad ha quedado desfasada y resulta ineficiente desde el punto de audiencia competitivo. Mantener restricciones unilaterales más estrictas que las de sus rivales no ha producido el propósito ejemplarizante que esperaban. Si el resto del sector acelera, desacelerar en solitario no cambia la dirección del mercado; simplemente deja antes a quien decide frenar. La empresa asimismo ha admitido que su enfoque previo ya no encaja con el clima político antirregulatorio de Washington.. Muchos de sus partidarios verán en este libranza una claudicación. Pero, si poco han enseñado tantas películas –de serie B y de las otras– es que hacer el adecuadamente a veces implica mancharse, negociar, y traicionar los títulos que uno ha defendido.. Dario Amodei suele desarrollar su visión a través de extensas entradas en su blog personal. Hace poco publicó una titulada The adolescence of technology, donde plantea que la IA se encuentra en una grado comparable a la adolescencia humana.
