Amazon desconecta la casa inteligente de un cliente por un supuesto comentario racista!

Un vecino de la ciudad estadounidense de Baltimore, en Maryland, acusó a la compañía Amazon de haber desconectado su casa inteligente por casi una semana tras un supuesto comentario racista a través de su timbre electrónico.

Según relató la semana pasada Brandon Jackson, un ingeniero de Microsoft, su altavoz inteligente Echo Show, que permite interactuar con Alexa y los dispositivos de la casa, se apagó entre el 24 y 31 de mayo.

El dueño del inmueble afirmó que "todo parecía estar bien" después de recibir un paquete el 24 de mayo, pero al día siguiente no pudo acceder a su dispositivo, por lo que decidió contactarse con la empresa.

Cuando Jackson se pudo comunicar con un representante, este le preguntó si sabía la razón del bloqueo. "Cuando respondí que no estaba seguro, su tono se volvió algo acusatorio", escribió en su blog. En ese momento la firma le notificó que un repartidor lo había acusado de realizar comentarios racistas a través de su timbre electrónico al momento de entregar un paquete en la casa.

El ingeniero alegó que tenía imágenes de video que demostraban que no ocurrió ninguna interacción y que ninguno de los miembros de su familia estaba en casa en ese momento. Asimismo, señaló que después de revisar las imágenes del timbre se enteró de que el dispositivo había dado una respuesta automática, con el mensaje: "Disculpe, ¿puedo ayudarlo?".

También manifestó que el video mostraba que el conductor había estado usando auriculares durante la interacción, por lo que debió de "malinterpretar el mensaje".

Además, Jackson cuenta que la mayoría de los residentes del vecindario y sus repartidores son afroamericanos, al igual que él, por lo que sería "muy poco probable" que hiciera tales comentarios.

Luego de varios contactos con el soporte de Amazon, el hombre pudo finalmente reactivar su dispositivo. Sin embargo, se quejó de que no había recibido ninguna comunicación sobre la resolución del caso por parte de la firma.

"Después de casi una década de lealtad [a Amazon], me han dado un duro recordatorio de que un malentendido puede conducir a medidas tan drásticas [...]. Debido a esta experiencia, estoy considerando seriamente dejar de usar los dispositivos Amazon Echo y advertiré a otros sobre este incidente", aseveró el propietario.

Por su parte, la compañía admitió posteriormente que no había constancia de los supuestos comentarios racistas de Jackson y que este tenía su dispositivo bloqueado de forma indebida.

Filtran un documento de Amazon que enumera 67 formas de sacar provecho de ChatGPT y aplicaciones similares.

Un documento interno de Amazon obtenido por The Business Insider este martes revela que la empresa de comercio electrónico tiene 67 formas de sacar provecho del 'chatbot' ChatGPT y aplicaciones similares basadas en la inteligencia artificial (IA).

De acuerdo con el medio, el documento fue elaborado después de que directivos de Amazon pidieran a sus empleados proponer ideas sobre cómo utilizar los 'chatbots' basados en la IA para mejorar sus productos y el flujo de trabajo.

Según el documento, los empleados de Amazon sugieren utilizar 'chatbots' para autogenerar códigos informáticos y materiales de 'marketing', así como para explorar informes financieros de la compañía y sus competidores para descubrir sus objetivos estratégicos. Además, se plantea la posibilidad de crear una barra de búsqueda con características análogas a ChatGPT que podría explicar a los clientes las "ventajas y desventajas entre las marcas y citar y resumir opiniones de usuarios".

Entre las propuestas también figura la posibilidad de usar el 'chatbot' para una parte principal del proceso de toma de decisiones. No obstante, para este objetivo se necesita un comunicado y una lista de preguntas frecuentes, una información que es confidencial. Entre tanto, en enero los abogados de la empresa advirtieron a los empleados de no compartir los datos confidenciales con ChatGPT.

Un representante de Amazon dijo a The Business Insider que la compañía usa el aprendizaje automático y la inteligencia artificial en "prácticamente todo" lo que hacen desde hace más de 25 años. "Amazon lidera en la industria en la IA en cada medida significativa, y nuestro negocio de aprendizaje automático AWS [Amazon Web Services] tiene la mayor cantidad de clientes, socios y capacidades de cualquier nube", añadió.

La UE lidera la legislación sobre IA.

El mes pasado, Sam Altman, consejero delegado de OpenAI y rostro del auge de la inteligencia artificial, se sentó frente a los miembros del Congreso para instarles a regular la inteligencia artificial (IA). Mientras los legisladores del subcomité judicial del Senado preguntaban al magnate tecnológico de 38 años sobre la naturaleza de su negocio, Altman argumentó que la industria de la IA podría ser peligrosa y que el gobierno debe intervenir.

"Creo que si esta tecnología sale mal, puede salir bastante mal", dijo Altman. "Queremos hacernos oír al respecto".

La forma en que los gobiernos deben regular la inteligencia artificial es un tema cada vez más urgente en países de todo el mundo, a medida que los avances llegan al gran público y amenazan con poner patas arriba industrias enteras.

La Unión Europea lleva tiempo trabajando en la regulación de esta cuestión. Pero en Estados Unidos, el proceso regulador no ha hecho más que empezar. Los primeros movimientos de los legisladores estadounidenses, según varios expertos en derechos digitales, no inspiraron mucha confianza.

Muchos de los senadores parecían aceptar las ambiciosas predicciones de la industria de la IA como un hecho y confiar en que sus líderes actuaran de buena fe. "Esta es su oportunidad, amigos, de decirnos cómo hacer esto bien", dijo el senador John Kennedy. "Hablen en un inglés sencillo y dígannos qué normas aplicar".

Y gran parte del debate sobre la inteligencia artificial ha girado en torno a preocupaciones futuristas sobre que la tecnología se vuelva sensible y se vuelva contra la humanidad, en lugar del impacto que la IA ya está teniendo: aumentar la vigilancia, intensificar la discriminación, debilitar los derechos laborales y crear desinformación masiva.

Si los legisladores y las agencias gubernamentales repiten los mismos errores que cometieron al intentar regular las plataformas de medios sociales, advierten los expertos, la industria de la IA se afianzará de forma similar en la sociedad con consecuencias potencialmente aún más desastrosas.

"Las empresas que están liderando el rápido desarrollo de los sistemas [de IA] son las mismas empresas tecnológicas que han sido llamadas ante el Congreso por violaciones antimonopolio, por violaciones de la legislación vigente o por daños informativos en la última década", dijo Sarah Myers West, directora gerente del AI Now Institute, una organización de investigación que estudia los impactos sociales de la tecnología. "Esencialmente se les está dando una vía para experimentar en la naturaleza con sistemas que ya sabemos que son capaces de causar un daño generalizado al público".

Jack Dorsey afirma que desconocía muchas revelaciones que salieron en los archivos de Twitter.

 "Me sorprendió el nivel de compromiso con las agencias gubernamentales, me sorprendieron las solicitudes", aseguró el cofundador y ex director ejecutivo de la red social.

El cofundador y ex director ejecutivo de Twitter, Jack Dorsey, aseguró este lunes durante una entrevista que desconocía gran parte del contenido de los denominados 'Archivos de Twitter', documentos sobre la censura en la plataforma.

"Mi estilo de liderazgo en la empresa era simplemente confiar en nuestra gente y [en] que estaban haciendo lo correcto", afirmó. "Había muchas cosas en los Archivos de Twitter que nunca vi porque no estaban en ese nivel", continuó Dorsey.

"Salió mal": El cofundador de Twitter lamenta la compra de la red social por Musk

"Me sorprendió el nivel de compromiso con las agencias gubernamentales, me sorprendieron las solicitudes. Pero si miras a los miembros de nuestro equipo, rechazaron muchas de esas cosas. No todo, pero mucho de eso era cuestionable", manifestó.

De acuerdo con sus palabras, los empleados de Twitter "estuvieron bajo el microscopio desde el primer día de la empresa", hecho que "crea tensiones que son simplemente increíbles". "Pero creo que actuaron con justicia, creo que en general hicieron lo correcto", recalcó.

"Por supuesto que cometimos un montón de errores, especialmente en torno a New York Post y la historia de la computadora portátil de Hunter Biden. Pero creo que son buenas personas y que estaban haciendo lo mejor que podían con la información que tenían", concluyó Dorsey.

¿Qué se reveló sobre Hunter Biden? 

De acuerdo a documentos revelados en diciembre pasado por el periodista y escritor Matt Taibbi, compartidos por Elon Musk, Twitter, que "inicialmente fue una herramienta brillante para permitir la comunicación instantánea de masas", poco a poco "fue obligada a agregar barreras" para controlar la narrativa. A partir de un determinado momento, gente desde fuera de la empresa empezó a dirigirse a sus ejecutivos para que "manipularan la narrativa", y para el 2020 ya se veían como "rutinarias" las peticiones para borrar ciertos tuits.

Cuando el periódico New York Post publicó el material sobre Hunter Biden, el hijo del presidente estadounidense, la plataforma "tomó medidas extraordinarias para suprimir la historia, borrando enlaces y publicando advertencias de que podría ser 'dañino'", e incluso bloqueó su difusión a través de mensajes directos, una herramienta que hasta ese momento solo se aplicaba a "casos extremos, como la pornografía infantil".

UE plantea forzar a Google vender parte de su negocio publicitario

Google podría tener que vender parte de su negocio de tecnología publicitaria para abordar las preocupaciones sobre prácticas anticompetitivas, según comunicó la Comisión Europea (CE) este miércoles.

La CE se opone a que Google favorezca sus propios servicios tecnológicos de publicidad o 'adtech', "en detrimento de los proveedores competidores de servicios de tecnología de publicidad, anunciantes y editores en línea". Esto también podría dar lugar a una multa de hasta el 10% de los ingresos anuales globales de Google.

Rusia multa a Google con más de 370 millones de dólares por su reiterada negativa a eliminar contenidos prohibidos.

La jefa antimonopolio de la UE, Margrethe Vestager, dijo que es posible que Google tenga que vender parte de su negocio de tecnología publicitaria porque es poco probable que una orden para cambiar los comportamientos de Google sea efectiva para detener las prácticas anticompetitivas. "Por ejemplo, Google podría deshacerse de sus herramientas de venta, DFP y AdX. Al hacerlo, pondríamos fin a los conflictos de intereses", precisó.

Google, por su parte, señaló que no está de acuerdo con lo expuesto por la CE.

En los antecedentes del comunicado de la Comisión aparece una investigación del 2021, en la que se acusa a la compañía estadounidense de violar las leyes de competencia de la UE, al favorecer la visualización en línea de sus propios servicios de tecnología publicitaria en detrimento de sus competidores.

Esta no sería la primera vez que Google es acusado por Bruselas por su posición dominante, la violación de leyes antimonopolio, bloqueo publicitario de sus competidores o manipular los resultados de búsqueda.

Creador de ChatGPT pide regular la IA

El director ejecutivo de OpenAI, Sam Altman, destacó la importancia de la regulación internacional en el campo de la inteligencia artificial generativa a medida que estos sistemas crecen en potencia, informa Global Times.

"Necesitamos la cooperación internacional para generar confianza global en el desarrollo seguro de sistemas de IA cada vez más poderosos. De una manera verificable, no me hago ilusiones de que esto será fácil. Tendremos que dedicar una atención significativa y sostenida como comunidad internacional para lograr esto", dijo Altman durante su intervención en formato virtual en una conferencia organizada por la Academia de Inteligencia Artificial de Pekín (BAAI).

Además, el creador del popular chatbot de inteligencia artificial ChatGPT señaló que Pekín debería desempeñar un papel clave en la configuración de las barreras de seguridad de la inteligencia artificial.

"China tiene algunos de los mejores talentos de IA del mundo, dadas las dificultades para resolver la alineación de los sistemas avanzados de IA, se requieren las mejores mentes de todo el mundo", dijo.

Si bien Altman ha reconocido los riesgos del rápido avance de la AI, que eventualmente podría superar la productividad colectiva de algunas de las empresas más grandes, destacó la "riqueza compartida" que creará, haciendo posible "mejorar drásticamente el nivel de vida de todos". "Debemos gestionar el riesgo juntos para llegar allí", enfatizó.

En este sentido, Altman recordó que apesar de que "las grandes potencias pueden tener sus diferencias", incluso durante los momentos más difíciles han encontrado formas de colaborar en lo que importa. "Vemos un gran potencial para que los investigadores de EE.UU., China y de todo el mundo trabajen juntos para lograr el objetivo compartido".

Abuso del firmware UEFI podria insertar codigo malicioso ejecutable en el kernel de Windows.

Los investigadores advierten de que el firmware UEFI de muchas placas base fabricadas por el fabricante de hardware para PC Gigabyte inyecta código ejecutable dentro del kernel de Windows de una forma insegura de la que pueden abusar los atacantes para comprometer los sistemas. Sofisticados grupos APT están abusando de implementaciones similares en la naturaleza.

"Si bien nuestra investigación en curso no ha confirmado la explotación por un actor de amenaza específico, una puerta trasera activa generalizada que es difícil de eliminar plantea un riesgo para la cadena de suministro para las organizaciones con sistemas Gigabyte", dijeron investigadores de la firma de seguridad Eclypsium en un informe.

Inyección de malware ejecutable desde el firmware

Los investigadores de Eclypsium descubrieron la implementación vulnerable después de que su plataforma detectara comportamientos que parecían coherentes con un rootkit de BIOS/UEFI. Este tipo de rootkits, también conocidos como bootkits, son muy peligrosos y difíciles de eliminar porque residen en el firmware de bajo nivel del sistema e inyectan código dentro del sistema operativo cada vez que éste arranca. 

Esto significa que reinstalar el sistema operativo o incluso cambiar la unidad de disco duro no eliminaría la infección y ésta reaparecería.

El firmware UEFI es un mini-OS en sí mismo con diferentes módulos que se encarga de la inicialización del hardware antes de pasar la secuencia de arranque al gestor de arranque y al sistema operativo instalado.

El proceso de inyectar código del firmware en la memoria del sistema operativo se ha utilizado antes para diversas implementaciones de funciones. Por ejemplo, algunas BIOS vienen con una función antirrobo llamada Absolute LoJack, antes conocida como Computrace, que permite a los usuarios rastrear y borrar remotamente sus ordenadores en caso de robo. 

La forma en que esto se implementa es haciendo que un agente de BIOS inyecte una aplicación en el sistema operativo incluso si se reinstala.

Los investigadores de seguridad advirtieron desde 2014 que se puede abusar del agente LoJack Windows y hacer que se conecte a un servicio falso. Luego, en 2018, los investigadores descubrieron que la tecnología estaba siendo abusada por APT28, alias Fancy Bear, una división de hacking del servicio de inteligencia militar ruso.

El caso es similar con el módulo de firmware de Gigabyte, que inyecta un ejecutable de Windows en la tabla ACPI de WPBT durante el arranque del sistema, desde donde es ejecutado automáticamente por el subsistema Windows Session Manager (smss.exe) y escribe un archivo en la carpeta system32 de Windows llamado GigabyteUpdateService.exe. 

El objetivo en este caso es que la BIOS despliegue automáticamente una aplicación de actualización de sistema y controladores de Gigabyte cuando la función de la BIOS llamada APP Center Download & Install está activada.

Algoritmos de Instagram impularia la creación de redes de pedofilia

Los investigadores descubrieron que la red social permite buscar 'hashtags' relacionados con el abuso sexual infantil, que dirigen hacia perfiles que buscan vender contenido pedófilo o incluso reunirse con menores.

Los algoritmos de recomendación de Instagram* ayudan a conectar y promover una amplia red de perfiles que venden material de pornografía infantil, según lo reveló una investigación conjunta de The Wall Street Journal e investigadores de la Universidad de Stanford y la Universidad de Massachusetts Amherst (EE.UU.).

Los investigadores descubrieron que la red social permitía a los usuarios buscar 'hashtags' relacionados con el abuso sexual infantil, incluidos términos explícitos como #pedowhore (pederasta, en inglés) o #preteensex (sexo preadolescente), que dirigían a perfiles que ofrecen contenido pedófilo, incluidos videos de menores al tener relaciones sexuales con animales o con otros niños.

Al buscar esas etiquetas, la plataforma advertía a los usuarios que "estos resultados pueden contener imágenes de abuso sexual infantil" y afirmaba que la producción y el consumo de ese tipo de material causa "daños extremos" a los menores, al tiempo que ofrecía "obtener recursos" sobre el tema o "ver resultados de todos modos".

Los expertos crearon perfiles que seguían únicamente una de las cuentas que utilizaban los antes mencionados 'hashtags', e inmediatamente los algoritmos les empezaron a recomendar vendedores o compradores de contenido sexual infantil y cuentas enlazadas con sitios de venta fuera de la plataforma. En su investigación, los investigadores encontraron 405 vendedores.

Una actividad similar fue descubierta en otras redes sociales. En Twitter, se encontraron 128 perfiles que ofrecían vender material de abuso sexual infantil. Según la investigación, esta plataforma no recomendaba esas cuentas en la misma medida que Instagram y las eliminaba muchos más rápido.

"La plataforma más importante para estas redes de compradores y vendedores parece ser Instagram", señalaron los expertos.

En un comentario para The Wall Street Journal, un portavoz de Meta aseguró que se bloquearon miles de 'hashtags' que sexualizan a menores y se pusieron restricciones para que los algoritmos no recomienden a los usuarios buscar términos relacionados con abusos sexuales. "La explotación infantil es un crimen horrible", indicó el vocero, agregando que la compañía está "investigando continuamente formas de defenderse activamente contra este comportamiento" y que en los últimos dos años ha eliminado 27 redes de pedofilia.