# data[].attributes.body
Este artículo del año 2022 de Nielsen (una empresa

global líder en la medición y análisis de datos, se especializa en medir audiencias, comportamientos de consumo, hábitos de medios de comunicación y

mercados, aborda temas relacionados con la segmentación, el sesgo y las normas sociales en la programación)

El artículo de Nielsen destaca la importancia de combinar datos contextuales y de comportamiento para mejorar la segmentación de la audiencia y maximizar el retorno de la inversión en campañas publicitarias. Esto pone de manifiesto cómo los datos y algoritmos pueden influir en la percepción y el comportamiento del público.

Este enfoque refuerza la idea de Gómez Barrera sobre la influencia de los algoritmos y la necesidad de reconocer los sesgos y normas sociales que estos pueden incorporar. La transparencia y la responsabilidad en el uso de datos son esenciales para mitigar los efectos negativos y asegurar una segmentación justa y efectiva.

Cito una parte del artículo: “ Para llegar a los consumidores allí donde están, los profesionales del marketing necesitan datos de alta calidad que informen sus estrategias y les ayuden a llegar a más público objetivo. Y según los profesionales del marketing encuestados para el

Informe Anual de Marketing 2022, la segmentación de audiencias es su táctica de

marketing más importante”.

# data[].attributes.attachment_link.title
Bridging the gap: Better audience targeting with context and behavior data | Nielsen

# data[].attributes.attachment_link.description
As engagement with digital channels continues to rise, understanding the consumers behind those engagements is essential for matching the right message with the right audience.

# data[].attributes.body
Elegí este artículo, de UNESCO, por el simple hecho de que se relacionan de manera directa con las principales problemáticas mencionada en el texto de Gómez Barrera.

Abordando los dilemas éticos que tiene la inteligencia artificial, en especial: “el sesgo en la inteligencia artificial”, en donde ambos textos destacan cómo los algoritmos, lejos de ser neutrales, reflejan normas sociales y prejuicios existentes.

El texto de Gómez Barrera se relaciona con este artículo, especialmente en lo que respecta a la segmentación y el sesgo en los algoritmos. En el artículo se menciona cómo la inteligencia artificial puede mostrar resultados sesgados en motores de búsqueda, dando como resultado estereotipos de género. Y Gómez lo afirma en el siguiente argumento:

Segmentación y normas sociales en los algoritmos

“En consecuencia, lo que se evidencia es que la búsqueda de una predicción a partir de patrones está atravesada por intereses pragmáticos y situaciones o intenciones sociales específicas”

Como antes hemos mencionado, esto da como resultado a los estereotipos de género.

Tanto el artículo como el texto de Gómez, destacan la necesidad de una regulación más efectiva en el desarrollo de tecnologías algorítmicas, la falta de transparencia y responsabilidad en la programación se convierte en un papel fundamental a tener en cuenta.

# data[].attributes.attachment_link.title
Inteligencia artificial: ejemplos de dilemas éticos

# data[].attributes.attachment_link.description
Los métodos de la IA pueden tener un enorme impacto en una amplia gama de esferas, desde las profesiones jurídicas y el poder judicial hasta la ayuda en la adopción de decisiones de los órganos públicos legislativos y administrativos.

# data[].attributes.body
El presente artículo habla sobre los estereotipos positivos en los medios, enfocándose en los raciales.

En principio, Gómez Barrera cita que la programación, por muy neutral que se plantee, está atravesada por ideas generalizadas. Así, se termina dando fuerza a conceptos que degradan la vida en sociedad de ciertos grupos de personas por incentivar un trato diferenciado. En este artículo se aborda como la asignación de rasgos estereotípicos, por más que sean positivos, marcan una diferencia.

Respecto al racismo, en este texto se enuncia "Borges señala que los estereotipos positivos están “llenos de trampas”, no solo para los periodistas sino también para las poblaciones a las que van dirigidos. “¿Quién no quiere ser visto como feliz y alegre? [...] Por supuesto que es mejor que la prensa muestre a las poblaciones negras y vulnerables como personas que alegran el carnaval y no como criminales”." mientras que Barrera nos expone "Un caso conocido de esto fue la imagen de dos personas negras en la búsqueda en imágenes en Google de “gorilas.".

Entonces vemos la forma en que la proliferación de estereotipos se predispone en medios digitales. Resulta conveniente, consecuentemente, formar sociedades éticas donde se reflexione acerca de las causas por las que la sociedad tiende a diferenciarse tan marcadamente de las personas con determinados rasgos - ya por fuera del racismo en si. Esto se condice con la propuesta de generar una universidad que no solo opere como formadora de unidades de trabajo sino como sujetos sociales con responsabilidad colectiva cuyo trabajo siga principios éticos y morales.

En conclusión, dado lo copioso de los estereotipos referidos a los orígenes de las personas, se debe trabajar en generar sociedades educadas en base a la ética que no tienda a discriminar por razones intrínsecas del sujeto.

# data[].attributes.attachment_link.title
Estereotipos positivos en los medios: ¿más problemáticos de lo que parecen?

# data[].attributes.attachment_link.description
¿Pueden los estereotipos positivos en los medios ser más dañinos de lo que imaginamos? Conversamos con el periodista Pedro Borges y exploramos su impacto en el periodismo y la sociedad.

# data[].attributes.body
Este artículo, resultado de la investigación del diario ProPublica, aborda el sesgo racial presente en un algoritmo que cumple el rol de un juez, al pronosticar quiénes reincidirán en prisión y dictar sentencias penales. Según el estudio, el algoritmo marcaba a los acusados negros como “futuros criminales” con una tasa de error de casi dos veces mayor a la de los acusados blancos. A su vez, los acusados blancos eran etiquetados con mayor frecuencia como “de bajo riesgo” en comparación a los acusados negros. Esta disparidad se hacía notar cuando por el mismo delito, la gente de raza negra era más propensa a recibir sentencias más largas que gente de raza blanca.

El texto de Gómez Barrera está relacionado con este artículo, especialmente cuando se habla sobre el perfilado de los algoritmos. Los datos con los que se entrenó este algoritmo, fueron recolectados de manera automática a través de múltiples formas, como unas encuestas que eran respondidas por los acusados. Luego, el algoritmo busca correlaciones entre los datos iníciales con la intención de generar patrones. Finalmente, este análisis de datos lleva a la creación de perfiles que buscan predecir el comportamiento y las acciones futuras de las personas.

Como dijo Gómez Barrera, “resulta fundamental hacer hincapié en el hecho de que la función que realiza propiamente un algoritmo depende enteramente de un trabajo previo con los datos y de una configuración anterior de los criterios de búsqueda”. En conclusión, la creación de estos perfiles presenta una falta de subjetividad, ya que son creados a partir de la interpretación descontextualizada de los datos, representando de forma imprecisa la realidad.

# data[].attributes.attachment_link.readable_text
On a spring afternoon in 2014, Brisha Borden was running late to pick up her god-sister from school when she spotted an unlocked kid's blue Huffy bicycle and a silver Razor scooter. Borden and a friend grabbed the bike and scooter and tried to ride them down the street in the Fort Lauderdale suburb of Coral Springs.

Just as the 18-year-old girls were realizing they were too big for the tiny conveyances - which belonged to a 6-year-old boy - a woman came running after them saying, "That's my kid's stuff." Borden and her friend immediately dropped the bike and scooter and walked away.

But it was too late - a neighbor who witnessed the heist had already called the police. Borden and her friend were arrested and charged with burglary and petty theft for the items, which were valued at a total of $80.

Subscribe to the Series

Machine Bias: Investigating the algorithms that control our lives.

Compare their crime with a similar one: The previous summer, 41-year-old Vernon Prater was picked up for shoplifting $86.35 worth of tools from a nearby Home Depot store.

Prater was the more seasoned criminal. He had already been convicted of armed robbery and attempted armed robbery, for which he served five years in prison, in addition to another armed robbery charge. Borden had a record, too, but it was for misdemeanors committed when she was a juvenile.

Yet something odd happened when Borden and Prater were booked into jail: A computer program spat out a score predicting the likelihood of each committing a future crime. Borden - who is black - was rated a high risk. Prater - who is white - was rated a low risk.

Two years later, we know the computer algorithm got it exactly backward. Borden has not been charged with any new crimes. Prater is serving an eight-year prison term for subsequently breaking into a warehouse and stealing thousands of dollars' worth of electronics.

Scores like this - known as risk assessments - are increasingly common in courtrooms across the nation. They are used to inform decisions about who can be set free at every stage of the criminal justice system, from assigning bond amounts - as is the case in Fort Lauderdale - to even more fundamental decisions about defendants' freedom. In Arizona, Colorado, Delaware, Kentucky, Louisiana, Oklahoma, Virginia, Washington and Wisconsin, the results of such assessments are given to judges during criminal sentencing.

Rating a defendant's risk of future crime is often done in conjunction with an evaluation of a defendant's rehabilitation needs. The Justice Department's National Institute of Corrections now encourages the use of such combined assessments at every stage of the criminal justice process. And a landmark sentencing reform bill currently pending in Congress would mandate the use of such assessments in federal prisons.

In 2014, then U.S. Attorney General Eric Holder warned that the risk scores might be injecting bias into the courts. He called for the U.S. Sentencing Commission to study their use. "Although these measures were crafted with the best of intentions, I am concerned that they inadvertently undermine our efforts to ensure individualized and equal justice," he said, adding, "they may exacerbate unwarranted and unjust disparities that are already far too common in our criminal justice system and in our society."

The sentencing commission did not, however, launch a study of risk scores. So ProPublica did, as part of a larger examination of the powerful, largely hidden effect of algorithms in American life.

We obtained the risk scores assigned to more than 7,000 people arrested in Broward County, Florida, in 2013 and 2014 and checked to see how many were charged with new crimes over the next two years, the same benchmark used by the creators of the algorithm.

The score proved remarkably unreliable in forecasting violent crime: Only 20 percent of the people predicted to commit violent crimes actually went on to do so.

When a full range of crimes were taken into account - including misdemeanors such as driving with an expired license - the algorithm was somewhat more accurate than a coin flip. Of those deemed likely to re-offend, 61 percent were arrested for any subsequent crimes within two years.

We also turned up significant racial disparities, just as Holder feared. In forecasting who would re-offend, the algorithm made mistakes with black and white defendants at roughly the same rate but in very different ways.

The formula was particularly likely to falsely flag black defendants as future criminals, wrongly labeling them this way at almost twice the rate as white defendants.

White defendants were mislabeled as low risk more often than black defendants.

Could this disparity be explained by defendants' prior crimes or the type of crimes they were arrested for? No. We ran a statistical test that isolated the effect of race from criminal history and recidivism, as well as from defendants' age and gender. Black defendants were still 77 percent more likely to be pegged as at higher risk of committing a future violent crime and 45 percent more likely to be predicted to commit a future crime of any kind. ( Read our analysis.)

The algorithm used to create the Florida risk scores is a product of a for-profit company, Northpointe. The company disputes our analysis.

In a letter, it criticized ProPublica's methodology and defended the accuracy of its test: "Northpointe does not agree that the results of your analysis, or the claims being made based upon that analysis, are correct or that they accurately reflect the outcomes from the application of the model."

Northpointe's software is among the most widely used assessment tools in the country. The company does not publicly disclose the calculations used to arrive at defendants' risk scores, so it is not possible for either defendants or the public to see what might be driving the disparity. (On Sunday, Northpointe gave ProPublica the basics of its future-crime formula - which includes factors such as education levels, and whether a defendant has a job. It did not share the specific calculations, which it said are proprietary.)

Northpointe's core product is a set of scores derived from 137 questions that are either answered by defendants or pulled from criminal records. Race is not one of the questions. The survey asks defendants such things as: "Was one of your parents ever sent to jail or prison?" "How many of your friends/acquaintances are taking drugs illegally?" and "How often did you get in fights while at school?" The questionnaire also asks people to agree or disagree with statements such as "A hungry person has a right to steal" and "If people make me angry or lose my temper, I can be dangerous."

The appeal of risk scores is obvious: The United States locks up far more people than any other country, a disproportionate number of them black. For more than two centuries, the key decisions in the legal process, from pretrial release to sentencing to parole, have been in the hands of human beings guided by their instincts and personal biases.

If computers could accurately predict which defendants were likely to commit new crimes, the criminal justice system could be fairer and more selective about who is incarcerated and for how long. The trick, of course, is to make sure the computer gets it right. If it's wrong in one direction, a dangerous criminal could go free. If it's wrong in another direction, it could result in someone unfairly receiving a harsher sentence or waiting longer for parole than is appropriate.

The first time Paul Zilly heard of his score - and realized how much was riding on it - was during his sentencing hearing on Feb. 15, 2013, in court in Barron County, Wisconsin. Zilly had been convicted of stealing a push lawnmower and some tools. The prosecutor recommended a year in county jail and follow-up supervision that could help Zilly with "staying on the right path." His lawyer agreed to a plea deal.

But Judge James Babler had seen Zilly's scores. Northpointe's software had rated Zilly as a high risk for future violent crime and a medium risk for general recidivism. "When I look at the risk assessment," Babler said in court, "it is about as bad as it could be."

Then Babler overturned the plea deal that had been agreed on by the prosecution and defense and imposed two years in state prison and three years of supervision.

Criminologists have long tried to predict which criminals are more dangerous before deciding whether they should be released. Race, nationality and skin color were often used in making such predictions until about the 1970s, when it became politically unacceptable, according to a survey of risk assessment tools by Columbia University law professor Bernard Harcourt.

In the 1980s, as a crime wave engulfed the nation, lawmakers made it much harder for judges and parole boards to exercise discretion in making such decisions. States and the federal government began instituting mandatory sentences and, in some cases, abolished parole, making it less important to evaluate individual offenders.

But as states struggle to pay for swelling prison and jail populations, forecasting criminal risk has made a comeback.

Dozens of risk assessments are being used across the nation - some created by for-profit companies such as Northpointe and others by nonprofit organizations. (One tool being used in states including Kentucky and Arizona, called the Public Safety Assessment, was developed by the Laura and John Arnold Foundation, which also is a funder of ProPublica.)

There have been few independent studies of these criminal risk assessments. In 2013, researchers Sarah Desmarais and Jay Singh examined 19 different risk methodologies used in the United States and found that "in most cases, validity had only been examined in one or two studies" and that "frequently, those investigations were completed by the same people who developed the instrument."

Their analysis of the research through 2012 found that the tools "were moderate at best in terms of predictive validity," Desmarais said in an interview. And she could not find any substantial set of studies conducted in the United States that examined whether risk scores were racially biased. "The data do not exist," she said.

Since then, there have been some attempts to explore racial disparities in risk scores. One 2016 study examined the validity of a risk assessment tool, not Northpointe's, used to make probation decisions for about 35,000 federal convicts. The researchers, Jennifer Skeem at University of California, Berkeley, and Christopher T. Lowenkamp from the Administrative Office of the U.S. Courts, found that blacks did get a higher average score but concluded the differences were not attributable to bias.

The increasing use of risk scores is controversial and has garnered media coverage, including articles by the Associated Press, and the Marshall Project and FiveThirtyEight last year.

Most modern risk tools were originally designed to provide judges with insight into the types of treatment that an individual might need - from drug treatment to mental health counseling.

"What it tells the judge is that if I put you on probation, I'm going to need to give you a lot of services or you're probably going to fail," said Edward Latessa, a University of Cincinnati professor who is the author of a risk assessment tool that is used in Ohio and several other states.

But being judged ineligible for alternative treatment - particularly during a sentencing hearing - can translate into incarceration. Defendants rarely have an opportunity to challenge their assessments. The results are usually shared with the defendant's attorney, but the calculations that transformed the underlying data into a score are rarely revealed.

"Risk assessments should be impermissible unless both parties get to see all the data that go into them," said Christopher Slobogin, director of the criminal justice program at Vanderbilt Law School. "It should be an open, full-court adversarial proceeding."

Black Defendants' Risk Scores

White Defendants' Risk Scores

These charts show that scores for white defendants were skewed toward lower-risk categories. Scores for black defendants were not. (Source: ProPublica analysis of data from Broward County, Fla.)

Proponents of risk scores argue they can be used to reduce the rate of incarceration. In 2002, Virginia became one of the first states to begin using a risk assessment tool in the sentencing of nonviolent felony offenders statewide. In 2014, Virginia judges using the tool sent nearly half of those defendants to alternatives to prison, according to a state sentencing commission report. Since 2005, the state's prison population growth has slowed to 5 percent from a rate of 31 percent the previous decade.

In some jurisdictions, such as Napa County, California, the probation department uses risk assessments to suggest to the judge an appropriate probation or treatment plan for individuals being sentenced. Napa County Superior Court Judge Mark Boessenecker said he finds the recommendations helpful. "We have a dearth of good treatment programs, so filling a slot in a program with someone who doesn't need it is foolish," he said.

However, Boessenecker, who trains other judges around the state in evidence-based sentencing, cautions his colleagues that the score doesn't necessarily reveal whether a person is dangerous or if they should go to prison.

"A guy who has molested a small child every day for a year could still come out as a low risk because he probably has a job," Boessenecker said. "Meanwhile, a drunk guy will look high risk because he's homeless. These risk factors don't tell you whether the guy ought to go to prison or not; the risk factors tell you more about what the probation conditions ought to be."

"I'm surprised [my risk score] is so low. I spent five years in state prison in Massachusetts." (Josh Ritchie for ProPublica)

Sometimes, the scores make little sense even to defendants.

James Rivelli, a 54-year old Hollywood, Florida, man, was arrested two years ago for shoplifting seven boxes of Crest Whitestrips from a CVS drugstore. Despite a criminal record that included aggravated assault, multiple thefts and felony drug trafficking, the Northpointe algorithm classified him as being at a low risk of reoffending.

"I am surprised it is so low," Rivelli said when told by a reporter he had been rated a 3 out of a possible 10. "I spent five years in state prison in Massachusetts. But I guess they don't count that here in Broward County." In fact, criminal records from across the nation are supposed to be included in risk assessments.

Less than a year later, he was charged with two felony counts for shoplifting about $1,000 worth of tools from Home Depot. He said his crimes were fueled by drug addiction and that he is now sober.

Northpointe was founded in 1989 by Tim Brennan, then a professor of statistics at the University of Colorado, and Dave Wells, who was running a corrections program in Traverse City, Michigan.

Wells had built a prisoner classification system for his jail. "It was a beautiful piece of work," Brennan said in an interview conducted before ProPublica had completed its analysis. Brennan and Wells shared a love for what Brennan called "quantitative taxonomy" - the measurement of personality traits such as intelligence, extroversion and introversion. The two decided to build a risk assessment score for the corrections industry.

Brennan wanted to improve on a leading risk assessment score, the LSI, or Level of Service Inventory, which had been developed in Canada. "I found a fair amount of weakness in the LSI," Brennan said. He wanted a tool that addressed the major theories about the causes of crime.

Brennan and Wells named their product the Correctional Offender Management Profiling for Alternative Sanctions, or COMPAS. It assesses not just risk but also nearly two dozen so-called "criminogenic needs" that relate to the major theories of criminality, including "criminal personality," "social isolation," "substance abuse" and "residence/stability." Defendants are ranked low, medium or high risk in each category.

As often happens with risk assessment tools, many jurisdictions have adopted Northpointe's software before rigorously testing whether it works. New York State, for instance, started using the tool to assess people on probation in a pilot project in 2001 and rolled it out to the rest of the state's probation departments - except New York City - by 2010. The state didn't publish a comprehensive statistical evaluation of the tool until 2012. The study of more than 16,000 probationers found the tool was 71 percent accurate, but it did not evaluate racial differences.

A spokeswoman for the New York state division of criminal justice services said the study did not examine race because it only sought to test whether the tool had been properly calibrated to fit New York's probation population. She also said judges in nearly all New York counties are given defendants' Northpointe assessments during sentencing.

In 2009, Brennan and two colleagues published a validation study that found that Northpointe's risk of recidivism score had an accuracy rate of 68 percent in a sample of 2,328 people. Their study also found that the score was slightly less predictive for black men than white men - 67 percent versus 69 percent. It did not examine racial disparities beyond that, including whether some groups were more likely to be wrongly labeled higher risk.

Brennan said it is difficult to construct a score that doesn't include items that can be correlated with race - such as poverty, joblessness and social marginalization. "If those are omitted from your risk assessment, accuracy goes down," he said.

In 2011, Brennan and Wells sold Northpointe to Toronto-based conglomerate Constellation Software for an undisclosed sum.

Wisconsin has been among the most eager and expansive users of Northpointe's risk assessment tool in sentencing decisions. In 2012, the Wisconsin Department of Corrections launched the use of the software throughout the state. It is used at each step in the prison system, from sentencing to parole.

In a 2012 presentation, corrections official Jared Hoy described the system as a " giant correctional pinball machine " in which correctional officers could use the scores at every "decision point."

Wisconsin has not yet completed a statistical validation study of the tool and has not said when one might be released. State corrections officials declined repeated requests to comment for this article.

Some Wisconsin counties use other risk assessment tools at arrest to determine if a defendant is too risky for pretrial release. Once a defendant is convicted of a felony anywhere in the state, the Department of Corrections attaches Northpointe's assessment to the confidential presentence report given to judges, according to Hoy's presentation.

In theory, judges are not supposed to give longer sentences to defendants with higher risk scores. Rather, they are supposed to use the tests primarily to determine which defendants are eligible for probation or treatment programs.

Prediction Fails Differently for Black Defendants

Overall, Northpointe's assessment tool correctly predicts recidivism 61 percent of the time. But blacks are almost twice as likely as whites to be labeled a higher risk but not actually re-offend. It makes the opposite mistake among whites: They are much more likely than blacks to be labeled lower risk but go on to commit other crimes. (Source: ProPublica analysis of data from Broward County, Fla.)

But judges have cited scores in their sentencing decisions. In August 2013, Judge Scott Horne in La Crosse County, Wisconsin, declared that defendant Eric Loomis had been "identified, through the COMPAS assessment, as an individual who is at high risk to the community." The judge then imposed a sentence of eight years and six months in prison.

Loomis, who was charged with driving a stolen vehicle and fleeing from police, is challenging the use of the score at sentencing as a violation of his due process rights. The state has defended Horne's use of the score with the argument that judges can consider the score in addition to other factors. It has also stopped including scores in presentencing reports until the state Supreme Court decides the case.

"The risk score alone should not determine the sentence of an offender," Wisconsin Assistant Attorney General Christine Remington said last month during state Supreme Court arguments in the Loomis case. "We don't want courts to say, this person in front of me is a 10 on COMPAS as far as risk, and therefore I'm going to give him the maximum sentence."

That is almost exactly what happened to Zilly, the 48-year-old construction worker sent to prison for stealing a push lawnmower and some tools he intended to sell for parts. Zilly has long struggled with a meth habit. In 2012, he had been working toward recovery with the help of a Christian pastor when he relapsed and committed the thefts.

After Zilly was scored as a high risk for violent recidivism and sent to prison, a public defender appealed the sentence and called the score's creator, Brennan, as a witness.

Brennan testified that he didn't design his software to be used in sentencing. "I wanted to stay away from the courts," Brennan said, explaining that his focus was on reducing crime rather than punishment. "But as time went on I started realizing that so many decisions are made, you know, in the courts. So I gradually softened on whether this could be used in the courts or not."

"Not that I'm innocent, but I just believe people do change." (Stephen Maturen for ProPublica)

Still, Brennan testified, "I don't like the idea myself of COMPAS being the sole evidence that a decision would be based upon."

After Brennan's testimony, Judge Babler reduced Zilly's sentence, from two years in prison to 18 months. "Had I not had the COMPAS, I believe it would likely be that I would have given one year, six months," the judge said at an appeals hearing on Nov. 14, 2013.

Zilly said the score didn't take into account all the changes he was making in his life - his conversion to Christianity, his struggle to quit using drugs and his efforts to be more available for his son. "Not that I'm innocent, but I just believe people do change."

Florida's Broward County, where Brisha Borden stole the Huffy bike and was scored as high risk, does not use risk assessments in sentencing. "We don't think the [risk assessment] factors have any bearing on a sentence," said David Scharf, executive director of community programs for the Broward County Sheriff's Office in Fort Lauderdale.

Broward County has, however, adopted the score in pretrial hearings, in the hope of addressing jail overcrowding. A court-appointed monitor has overseen Broward County's jails since 1994 as a result of the settlement of a lawsuit brought by inmates in the 1970s. Even now, years later, the Broward County jail system is often more than 85 percent full, Scharf said.

In 2008, the sheriff's office decided that instead of building another jail, it would begin using Northpointe's risk scores to help identify which defendants were low risk enough to be released on bail pending trial. Since then, nearly everyone arrested in Broward has been scored soon after being booked. (People charged with murder and other capital crimes are not scored because they are not eligible for pretrial release.)

The scores are provided to the judges who decide which defendants can be released from jail. "My feeling is that if they don't need them to be in jail, let's get them out of there," Scharf said.

Scharf said the county chose Northpointe's software over other tools because it was easy to use and produced "simple yet effective charts and graphs for judicial review." He said the system costs about $22,000 a year.

In 2010, researchers at Florida State University examined the use of Northpointe's system in Broward County over a 12-month period and concluded that its predictive accuracy was "equivalent" in assessing defendants of different races. Like others, they did not examine whether different races were classified differently as low or high risk.

Scharf said the county would review ProPublica's findings. "We'll really look at them up close," he said.

Broward County Judge John Hurley, who oversees most of the pretrial release hearings, said the scores were helpful when he was a new judge, but now that he has experience he prefers to rely on his own judgment. "I haven't relied on COMPAS in a couple years," he said.

Hurley said he relies on factors including a person's prior criminal record, the type of crime committed, ties to the community, and their history of failing to appear at court proceedings.

ProPublica's analysis reveals that higher Northpointe scores are slightly correlated with longer pretrial incarceration in Broward County. But there are many reasons that could be true other than judges being swayed by the scores - people with higher risk scores may also be poorer and have difficulty paying bond, for example.

Most crimes are presented to the judge with a recommended bond amount, but he or she can adjust the amount. Hurley said he often releases first-time or low-level offenders without any bond at all.

However, in the case of Borden and her friend Sade Jones, the teenage girls who stole a kid's bike and scooter, Hurley raised the bond amount for each girl from the recommended $0 to $1,000 each.

Hurley said he has no recollection of the case and cannot recall if the scores influenced his decision.

Sade Jones, who had never been arrested before, was rated a medium risk. (Josh Ritchie for ProPublica)

The girls spent two nights in jail before being released on bond.

"We literally sat there and cried" the whole time they were in jail, Jones recalled. The girls were kept in the same cell. Otherwise, Jones said, "I would have gone crazy." Borden declined repeated requests to comment for this article.

Jones, who had never been arrested before, was rated a medium risk. She completed probation and got the felony burglary charge reduced to misdemeanor trespassing, but she has still struggled to find work.

"I went to McDonald's and a dollar store, and they all said no because of my background," she said. "It's all kind of difficult and unnecessary."

Julia Angwin is a senior reporter at ProPublica. From 2000 to 2013, she was a reporter at The Wall Street Journal, where she led a privacy investigative team that was a finalist for a Pulitzer Prize in Explanatory Reporting in 2011 and won a Gerald Loeb Award in 2010.

Lauren Kirchner is a senior reporting fellow at ProPublica. Surya Mattu is a contributing researcher. Design and production by Rob Weychert and David Sleight.

# data[].attributes.attachment_link.description
There's software used across the country to predict future criminals. And it's biased against blacks.

# data[].attributes.body
Elegí este artículo porque considero que, en un mundo donde todo cambia y evoluciona rápidamente, es fundamental que nadie quede fuera de esta carrera. Las tecnologías tienen un gran potencial para mejorar la integración de todas las personas y brindarles la oportunidad de encontrar su rol en la sociedad. Desde asistentes virtuales que apoyan a personas con discapacidades hasta sistemas que eliminan barreras lingüísticas, la IA puede democratizar el acceso a la información.

Como estudiantes de inteligencia artificial, nuestro rol es fundamental en este proceso. Debemos asegurarnos de que los algoritmos y sistemas que ayudamos a crear consideren la diversidad de quienes los utilizarán. Esto implica trabajar con datos representativos de diferentes grupos, evitar sesgos en el entrenamiento de los modelos y validar que los resultados sean equitativos para todos. Es crucial que nos comprometamos a aprender, cuestionar y proponer soluciones que fomenten una IA más justa y accesible para todas las personas, sin importar sus capacidades, origen o contexto social.

# data[].attributes.attachment_link.title
La inteligencia artificial contribuye a mejorar la accesibilidad de las personas con discapacidad

# data[].attributes.attachment_link.description
MADRID, 03 (SERVIMEDIA | MALDITA.es) Asistentes personales como Siri o Alexa permiten encender la tele o apagar la luz con sólo pedirlo. Sin embargo, tienen problemas par…

# data[].attributes.body
En el articulo encontrado en internet como en el texto de Gómez Barrera se aborda de manera extensa la problemática de los llamados "sesgos" en algoritmos, haciendo hincapié en el impacto que estos tienen en la sociedad. Los 2 textos coinciden en que los algoritmos no son neutrales, sino que lo mismos replican y amplifican los prejuicios sociales, como por ejemplo, el sexismo, la discriminación y demás ya que como dice Gómez Barrera los algoritmos dependen de datos ingresados que no son "enteramente puros o naturales". en el artículo habla mucho de la falta de transparencia en algoritmos que afecta constantemente a las minorías y a personas vulnerables, ampliando así las desigualdades existentes. Estos textos tambien tienen en común que hablan de buscar con urgencia, una regulación en dichos algoritmos para que las situaciones previamente mencionadas no ocurran con tanta frecuencia.

# data[].attributes.attachment_link.title
​Algorithmic Bias: Why and How Do Computers Make Unfair Decisions?

# data[].attributes.attachment_link.description
What is algorithmic bias? How do computers make unfair decisions? What are some examples of algorithmic bias? What can we do to solve it?

# data[].attributes.body
Tanto el texto de Gómez Barrera como el artículo que elegí exploran cómo los algoritmos, lejos de ser neutrales, están cargados de los prejuicios presentes en los datos con los que se entrenan. Gómez Barrera profundiza en cómo los programadores, al seleccionar y segmentar datos, juegan un papel clave en introducir sesgos que terminan moldeando el comportamiento de los algoritmos. Estos sesgos pueden tener consecuencias graves al reforzar desigualdades ya existentes en la sociedad.
Por otro lado, el artículo elegido detalla ejemplos prácticos de cómo estos sesgos impactan en la vida real, como el caso de Amazon, donde el algoritmo de contratación penalizaba a mujeres porque fue entrenado con datos históricos que favorecían a los hombres. Esto coincide con la idea de Gómez Barrera de que los datos de entrada no son neutrales y que el diseño del algoritmo puede reflejar normas y valores sociales que pueden ser discriminatorios​.
Ambos textos muestran que no basta con mejorar la precisión técnica de los algoritmos si no se aborda el sesgo en los datos. La intervención humana es inevitable en la programación, por lo que se debe ser consciente de su impacto para evitar que los algoritmos amplifiquen problemas sociales existentes.

# data[].attributes.attachment_link.title
¿Qué son los sesgos algorítmicos y por qué causaron problemas a la IA de Google?

# data[].attributes.attachment_link.description
La suspensión temporal del generador de imágenes de Gemini, la inteligencia artificial (IA) de Google, causó controversia

# data[].attributes.body
El artículo que elegí aborda cómo los algoritmos de inteligencia artificial pueden reproducir y amplificar desigualdades sociales preexistentes. Este concepto coincide plenamente con las ideas de Gómez Barrera sobre la segmentación y las normas sociales en la programación, ya que ambos autores destacan que los algoritmos no son herramientas neutrales. Barrera subraya que las decisiones humanas detrás de los algoritmos reflejan normas y sesgos sociales que afectan cómo se procesan los datos y, por lo tanto, las conclusiones que generan los sistemas algorítmicos. En el caso del sesgo algorítmico, los sistemas pueden discriminar a ciertos grupos al basarse en datos históricos o mal representados, lo que lleva a decisiones injustas. Por ejemplo, los algoritmos de contratación pueden penalizar a mujeres o minorías, replicando las decisiones discriminatorias del pasado. Gómez Barrera también advierte que estos sesgos sociales influyen en cómo los algoritmos segmentan a las personas, afectando su subjetividad y reforzando desigualdades, lo cual es un problema que este artículo busca evidenciar y corregir.

# data[].attributes.attachment_link.title
Sesgo algorítmico: Desafíos en la equidad y la justicia

# data[].attributes.attachment_link.description
Sesgo algorítmico: Desafíos en la equidad y la justicia. La tecnología ha avanzado a pasos agigantados en los últimos años, brindando

# data[].attributes.body
El articulo seleccionado esta relacionado completamente con el texto escrito por Gomez Barrera y tambien con el papel que juegan los progamadores en la segmentacion y sesgo de datos. El articulo habla sobre la red social "Facebook" que desde Noviembre de 2016 hasta Septiembre de 2018 recibio cinco demandas por discriminacion y otros cargos por parte de organizaciones de derechos civiles y laborales, trabajadores y personas. En esta empresa, los progamadores diseñaron algoritmos que permitian a los anunciantes segmentar audiencias basandose en datos demograficos, lo cual fue considerado como discriminacion a las partes donde no iban destinados dichos anuncios. Hablando en terminos claros, la empresa Facebook excluía a ciertas personas de ver anuncios de viviendas, empleos y creditos basandose en su edad, genero o raza. Esto se conecta justamente con la idea de que los progamadores, al definir como procesan y presentan los datos, estan imponiendo normas sociales y sesgos, ya sea de manera intencional o no. En este caso los algoritmos de Facebook replicaron prejuicios sociales preexistentes, lo que demuestra como los sesgos incorporados pueden perpetuar desigualdades. Al mismo tiempo se esta reflejando el concepto de gubernamentalidad algoritmica, donde los algoritmos influyen en las decisiones y oportunidades de las personas. En sintesis, los algoritmos NO son procesos neutrales, sino que estan sujetos a decisiones humanas que impactan directamente con la vida cotidiana.

# data[].attributes.attachment_link.title
Facebook resuelve demandas judiciales por supuestos anuncios discriminatorios

# data[].attributes.attachment_link.description
La red social permitió anuncios de vivienda, empleo y crédito discriminando a ciertas personas basados en su edad, género o raza.

# data[].attributes.body
El artículo de Ipsos sobre las noticias falsas en la era de la IA complementa las ideas de Gómez Barrera, quien analiza cómo los algoritmos están influenciados por los sesgos y las normas sociales de quienes los programan. A pesar de que Gómez Barrera destaca la habilidad de los algoritmos para segmentar información y moldear las percepciones, el artículo de Ipsos ilustra un ejemplo específico: la producción de noticias falsas y deepfakes que engañan la percepción pública. El artículo destaca que el 64% de los canadienses temen que la IA aumente la desinformación, demostrando que los algoritmos no son neutrales y replican y amplifican sesgos globalmente. Esto está estrechamente relacionado con la teoría de la gubernamentalidad algorítmica, mencionada por Gómez Barrera, al ilustrar cómo las computadoras extraen y procesan datos sin considerar el contexto social, generando una "dupla de lo real" que es manipulable. Como resultado, los textos que leí invitan a reflexionar sobre la capacidad de los algoritmos para influir en el comportamiento social. Las decisiones de programación que priorizan ciertos datos sobre otros, como la segmentación de noticias, son esenciales para comprender cómo se moldean las percepciones públicas. En cuanto a las noticias falsas, estas pueden tener graves repercusiones en la democracia y la vida cotidiana, como ya se ha visto en elecciones y conflictos internacionales recientes.

# data[].attributes.attachment_link.description
La mayoría de la población española piensa que la Inteligencia Artificial va a aumentar aún más la desinformación.

# data[].attributes.body
Elegi este artículo porque aborda un tema muy relevante en la actualidad: la invisibilidad y discriminación algorítmica, lo cual me pareció interesante ya que estamos rodeados de sistemas que utilizan algoritmos para tomar decisiones que nos afectan directamente. El artículo profundiza en cómo los algoritmos, aunque muchas veces se perciben como herramientas objetivas, en realidad pueden perpetuar e incluso amplificar desigualdades sociales preexistentes. Esto se relaciona con lo que plantea Gómez Barrera sobre la falta de neutralidad de los algoritmos, ya que estos reflejan los sesgos y normas sociales de quienes los programan.

Un ejemplo que me llamó particularmente la atención es el del sistema SyR en los Países Bajos, donde personas de bajos recursos fueron injustamente segmentadas y etiquetadas como sospechosas de fraude, lo que evidencia cómo la recolección y uso de datos puede reforzar la exclusión social. Además, el caso del algoritmo de contratación de Amazon, que discriminaba a las mujeres debido a sesgos históricos en los datos, es otra muestra de cómo estos sistemas pueden operar bajo lógicas que perpetúan desigualdades.

Este artículo me parece importante porque no solo cuestiona la supuesta objetividad de los algoritmos, sino que también refuerza la necesidad de una mayor transparencia y responsabilidad en su diseño y aplicación, temas que también son mencionados por Gómez Barrera. La crítica compartida en ambos textos resalta la urgencia de repensar cómo se utilizan estas tecnologías para evitar que continúen generando formas de invisibilidad y discriminación.

# data[].attributes.attachment_link.readable_text
La tecnología digital y los algoritmos han revolucionado la forma en que vivimos, trabajamos y nos comunicamos. Si bien prometen eficiencia, precisión y conveniencia, estas tecnologías pueden exacerbar los prejuicios y las desigualdades sociales y crear nuevas formas de exclusión. Así, la invisibilización y la discriminación, que siempre han existido, cobran nuevas formas en la era de los algoritmos.

La falta de interés y de datos lleva a la invisibilización algorítmica, motivando que existan dos tipos de abandono algorítmico. El primero de ellos ocurre entre las personas desatendidas en el mundo, que incluye a los millones que no tienen un teléfono inteligente ni una cuenta bancaria y que, por ende, se encuentran al margen de la economía de plataformas y, para los algoritmos, no existen. El segundo tipo de abandono algorítimico incluye a individuos o grupos que son víctimas del fracaso del sistema algorítmico, como sucedió con SyRI (Systeem Risico Indicatie) en Países Bajos que señaló injustamente a unas 20.000 familias de origen socioeconómico bajo de cometer fraude fiscal, llevando a muchas a la ruina en 2021. El algoritmo, que fue declarado ilegal por un tribunal de La Haya meses más tarde, se aplicó en los barrios más pobres del país y bloqueó la posibilidad de muchas familias con más de una nacionalidad de percibir los beneficios sociales a los que tenían derecho por su condición socioeconómica.

Más allá del ejemplo en el sistema público neerlandés, la invisibilización y la discriminación también pueden originarse en el sector privado. Un ejemplo es el algoritmo de ofertas de trabajo de Amazon que mostró un sesgo contra las mujeres al aprender de datos históricos -es decir, datos incompletos al no incluir un universo amplio y representativo-, lo que llevó a Amazon a abandonar el proyecto. Otro ejemplo Apple Card, una tarjeta de crédito respaldada por Goldman Sachs, que también fue señalada cuando se descubrió que su algoritmo ofrecía límites de crédito más favorables a los hombres que a las mujeres.

En general, la invisibilidad y la discriminación algorítmica, en cualquier ámbito, puede derivar en un acceso desigual a los recursos y en una exacerbación de la exclusión social y económica.

Tomar decisiones basadas en algoritmos

Los datos y los algoritmos son componentes interconectados en el ámbito de la informática y el procesamiento de la información. Los datos sirven de base, pero pueden ser desestructurados, con excesiva variabilidad e incompletos. Los algoritmos son instrucciones o procedimientos diseñados para procesar y estructurar estos datos y extraer información, patrones o resultados significativos.

La calidad y relevancia de los datos impacta directamente en la efectividad de los algoritmos, ya que estos dependen de las entradas de datos para generar resultados. De ahí, el principio " basura entra basura sale", que resume la idea de que, si entran datos de mala calidad, sesgados o inexactos en un sistema o proceso, el resultado también será de mala calidad o impreciso. Por su lado, los algoritmos bien diseñados pueden mejorar el valor de los datos al revelar relaciones ocultas o hacer predicciones.

Esta relación simbiótica subraya el papel fundamental que desempeñan tanto los datos como los algoritmos a la hora de impulsar los avances tecnológicos, permitir la toma de decisiones informadas y favorecer innovaciones.

La toma de decisiones algorítmica se refiere al proceso de utilizar conjuntos predefinidos de instrucciones o reglas para analizar datos y emitir predicciones que ayuden a decidir. Cada vez más, se aplica a decisiones que tienen que ver con el bienestar social y la oferta de servicios y productos comerciales a través de plataformas. Es ahí donde se puede encontrar la invisibilidad o la discriminación algorítmica.

Cada vez con más frecuencia, los sistemas de bienestar utilizan datos y algoritmos para ayudar en la toma de decisiones sobre asuntos como quién debe recibir asistencia y de qué tipo o quién presenta riesgos. Estos algoritmos consideran diferentes factores como ingresos, tamaño de la familia o de la vivienda, gastos, factores de riesgo, edad, sexo o género, que pueden incluir sesgos y omisiones.

Por eso el Relator Especial sobre la extrema pobreza y los derechos humanos, Philip Alston, advertía en un informe ante la Asamblea General de Naciones Unidas que la adopción sin cautelas de estos puede llevar a un bienestar social distópico. En dicho estado de bienestar distópico, los algoritmos se utilizan para reducir presupuestos, disminuir el número de personas beneficiarias, eliminar servicios, introducir formas exigentes e intrusivas de condicionalidad, modificar comportamientos, imponer sanciones y "revertir la noción de que el Estado debe rendir cuentas".

Invisibilidad y discriminación algorítmicas: Dos conceptos opuestos

Aunque los datos y los algoritmos tienen mucho en común, la invisibilidad y la discriminación algorítmicas son dos conceptos opuestos. La invisibilidad algorítmica se refiere a lagunas en conjuntos de datos u omisiones en los algoritmos, que resultan en desatenciones en la aplicación de beneficios o servicios. Por el contrario, la discriminación algorítmica habla de puntos críticos que resaltan comunidades específicas o características sesgadas en conjuntos de datos, generando injusticia.

Es decir, la invisibilización algorítmica ocurre cuando individuos o grupos están ausentes en los conjuntos de datos, lo que hace imposible abordar sus necesidades. Por ejemplo, integrar en la toma de decisiones social datos sobre mujeres con discapacidad puede ser vital para la inclusión. A nivel mundial, las mujeres son más vulnerables a la invisibilización algorítmica que los hombres, ya que tienen menos acceso a la tecnología digital y dejan menos trazas digitales.

Los sistemas algorítmicos opacos que incorporan estereotipos pueden aumentar la invisibilización y la discriminación al ocultar, o bien apuntar, a personas o poblaciones vulnerables. Un sistema algorítmico opaco es aquel no permite el acceso a su funcionamiento.

Por otro lado, agregar o desagregar datos sin estudiar las consecuencias cuidadosamente puede resultar en omisiones u errores. Esto ilustra el doble filo de la contabilidad; es decir, la ambivalencia de la tecnología que cuantifica y cuenta, y que puede servir para mejorar la vida de las personas, pero también para perjudicarlas.

La discriminación puede surgir cuando las decisiones algorítmicas se basan en datos históricos, que normalmente incorporan asimetrías, estereotipos e injusticias, porque en el pasado existieron más desigualdades. El efecto de "basura entra basura sale" se produce si los datos están sesgados, como suele pasar con el contenido en línea. Asimismo, las bases de datos con sesgos o incompletas pueden ser incentivos de la discriminación algorítmica. Pueden aparecer sesgos de selección cuando los datos de reconocimiento facial, por ejemplo, se basan en rasgos de hombres blancos, mientras que las usuarias son mujeres de piel oscura, o en contenido en línea generado por una minoría de agentes, lo que dificulta la generalización.

Como se ve, abordar la invisibilidad y la discriminación algorítmica es un reto de primera magnitud que solo se podrá resolver con la concienciación y la colaboración de instituciones, organizaciones de campaña, empresas, e investigación.
Contenido elaborado por Miren Gutiérrez, Doctora e investigadora en la Universidad de Deusto, experta en activismo de datos, justicia de datos, alfabetización de datos y desinformación de género. Los contenidos y los puntos de vista reflejados en esta publicación son responsabilidad exclusiva de su autor

# data[].attributes.attachment_link.description
La tecnología digital y los algoritmos han revolucionado la forma en que vivimos, trabajamos y nos comunicamos. Si bien prometen eficiencia, precisión y conveniencia, estas tecnologías pueden exacerbar los prejuicios y las desigualdades sociales y crear nuevas formas de exclusión.

# data[].attributes.body
El artículo elegido trata sobre cómo la Inteligencia Artificial está transformando la educación, destacando tanto sus ventajas como sus riesgos. Aunque se mencionan beneficios como la personalización de la enseñanza, también se señalan posibles problemas éticos en áreas clave como las admisiones universitarias, que podrían ser afectadas por decisiones automatizadas sin suficiente intervención humana.

Gómez Barrera menciona que “la categorización de los datos es concretamente arbitraria o responde a otros factores ajenos a un simple proceso matemático”​. Esto se relaciona con la influencia de la IA en las decisiones educativas, donde el sesgo de los datos puede llevar a resultados problemáticos.

Ambos textos coinciden en la necesidad de evaluar críticamente el impacto de los algoritmos en decisiones clave, ya que los sesgos en los datos pueden tener efectos significativos en los resultados educativos, tal como en el caso de la admisión o el rendimiento académico.

# data[].attributes.attachment_link.title
Cómo afecta el papel creciente de la inteligencia artificial en la educación

# data[].attributes.attachment_link.description
La inteligencia artificial generativa está redefiniendo la educación, desde el contenido académico hasta la administración y la asistencia a los estudiantes. Las instituciones se enfrentan al desafío de integrar estas tecnologías de manera efectiva para mantenerse competitivas y cumplir con su misión educativa

# data[].attributes.body
Elegí este artículo ya que se explica que uno de los grandes retos es que los algoritmos, generalmente, funcionan con bases de datos que pueden estar sesgadas, lo que podría lograr diagnósticos menos precisos para ciertos grupos. Para combatir esto, se están desarrollando nuevas técnicas y algoritmos para identificar y corregir esos sesgos antes de que los sistemas sean implementados en la práctica.

Las relaciones que yo establecí entre el texto de Gómez Barrera y este artículo, son:

El sesgo en los algoritmos: el texto menciona como los sesgos y las normas sociales influyen en la programación de algoritmos. Mientras que en el artículo, se habla de un proyecto argentino que busca identificar y reducir los sesgos en la inteligencia artificial.

"El proyecto argentino busca identificar y corregir sesgos en algoritmos de inteligencia artificial, un área crítica para garantizar la equidad en los sistemas automatizados."

Segmentación y normativas sociales: el texto muestra como la segmentación de datos y la formulación de normativas sociales influyen en la manera en que los algoritmos captan y procesan información mientras que en el artículo, se ve como no solo se enfoca en los sesgos, sino también en como están relacionados con las segmentaciones específicas de los datos que se usan en los algoritmos.

"El objetivo del proyecto es también revisar cómo las segmentaciones en los datos pueden reflejar prejuicios sociales, y ajustar los algoritmos para evitar estos sesgos."

# data[].attributes.attachment_link.title
Google destacó un proyecto argentino que busca sesgos en inteligencia artificial aplicada a la medicina

# data[].attributes.attachment_link.description
Un proyecto de investigación de la Universidad Nacional del Litoral, que busca detectar sesgos en los algoritmos aplicados al análisis de imágenes médicas, fue premiado por el programa Google Award for Inclusion Research

# data[].attributes.body
El articulo elegido expone los sesgos que tiene la Inteligencia Artificial en el mundo de la Salud.

Se expone que aunque con la IA se puede incrementar entre un 30 y 40% los resultados satisfactorios para los pacientes, hay muchas predicciones de enfermedades que se entrenan con datos predominantemente masculinos. Eso provoca errores en los diagnósticos hacia mujeres”. Lo mismo pasa según la raza, la edad o, incluso, el estilo de vida de la población muestreada. En este contexto, los expertos advierten de la necesidad de recopilar y usar los datos pertinentes.

"Para Canhoto y Backhouse, los puntos que entran en juego en la selección y agrupamiento de los elementos que son analizados por el procesamiento son esencialmente cuatro: datos, cognición, affordances y normas."

En la noticia elegida se expone la influencia que tiene la elección de los "datos" en la variación de la precisión del algoritmo.

Demostrando que si al realizar los algoritmos se utilizan datos predominantemente masculinos provoca errores en los diagnósticos de los actores que están fuera de este grupo.

# data[].attributes.attachment_link.readable_text
(Global) Cada vez está más confirmado que la Inteligencia Artificial ha llegado para cambiar por completo la medicina. Según un informe de la consultora americana Frost & Sullivan, con la IA se pueden incrementar entre un 30 y 40% los resultados satisfactorios para los pacientes. Además, tanto estados como empresas privadas abogan por la inversión en esta tecnología, ya que se prevé que el mercado de la IA en la atención sanitaria tenga un valor de 67.400 millones de dólares en tres años. Aun así, aún hay retos que se tienen que solucionar.

ASHO, empresa de codificación sanitaria, tiene claro que uno de los desafíos clave para la medicina del futuro es que los datos reflejen con exactitud la distribución de la población, ya que, en caso contrario, los pacientes pueden llegar a topar con diagnósticos más imprecisos o incluso perjudiciales. En este sentido, los expertos advierten de la necesidad de seguir invirtiendo en profesionales de la IA para eliminar este sesgo.

" Los algoritmos de la IA a veces pueden ser imprecisos. Por eso nos encontramos ante un reto clave: aprovechar las grandes cantidades de datos de los que disponemos para obtener atenciones más óptimas, pero a su vez garantizar su eficacia para no tener diagnósticos erróneos sobre los pacientes", explica Ruth Cuscó, directora gerente de la compañía.

Uno de los principales problemas de los sesgos es la infrarrepresentación de algunos segmentos de la población. Por ejemplo, apunta Cuscó, "hay muchas predicciones de enfermedades que se entrenan con datos predominantemente masculinos. Eso provoca errores en los diagnósticos hacia mujeres". Lo mismo pasa según la raza, la edad o, incluso, el estilo de vida de la población muestreada. En este contexto, los expertos advierten de la necesidad de recopilar y usar los datos pertinentes.
Un sistema sanitario más justo
" No deja de ser una cuestión ética para tener un sistema sanitario más justo y con las mismas garantías para todo el mundo", sostiene Cuscó. Por eso cree que cada vez van a ser necesarios más profesionales con experiencia en la IA y también en el análisis de datos. " Lo que hay que tener claro es que la IA no reemplazará nunca la experiencia y el juicio propio de los profesionales de la salud, sino que es una muy buena herramienta complementaria ", añade.

El objetivo de la IA es ofrecer una atención más segura al paciente, pero no solo eso. Avances en las investigaciones también son claves para el futuro de la medicina. Y aunque ya se ha recorrido mucho camino de manera satisfactoria, hay que seguir controlando este sesgo. Por ejemplo, con auditorías periódicas de datos y de su validación constante. " Hay que generar especialistas en IA, la salud es un derecho básico para toda la población y ofrecer la mejor atención es una obligación tanto para los profesionales como para la administración ", concluye Cuscó.

Ver más: Dell: Cuatro consejos para acelerar la adopción de la IA en su empresa

Ver más: Las 3 inteligencias que sí o sí necesitan desarrollar los líderes antes de gestionar la IA

Ver más. Las empresas aceleran los avances en tecnología para aprovechar la IA generativa

# data[].attributes.attachment_link.title
Expertos advierten de la importancia de eliminar el sesgo de la IA en salud - TyN Magazine

# data[].attributes.attachment_link.description
(Global) Cada vez está más confirmado que la Inteligencia Artificial ha llegado para cambiar por completo la medicina. Según un informe de la consultora americana Frost & Sullivan, con la IA se pueden incrementar entre un 30 y 40% los resultados satisfactorios para los pacientes.