Viés do detector de IA e cobertura de ensino superior na marcação

Olá Mundo

Uma de nossas mais novas repórteres compartilha seus planos para investigar a tecnologia no ensino superior Por Tara García Mathewson

Hello World é um boletim informativo semanal – entregue todos os sábados de manhã – que se aprofunda em nossas reportagens originais e nas perguntas que colocamos aos grandes pensadores da área. Navegue pelo arquivo aqui.

Olá, leitores. Estou animado para me apresentar a todos vocês! Sou Tara García Mathewson, uma das mais novas repórteres do The Markup, e cobrirei o ensino superior aqui. Minha primeira história foi publicada na semana passada e gostaria de contar mais sobre ela, bem como o que pretendo abordar nesta edição.

Aprendizado de máquina

Estudo de Stanford descobriu que detectores de IA são tendenciosos contra falantes não nativos de inglês

Primeiro, caso você tenha perdido, minha história é sobre preconceitos incorporados em detectores de IA, que se tornaram populares nos campi universitários depois que o ChatGPT criou um novo pânico sobre trapaças. Os detectores visam identificar escrita gerada por IA. Embora você possa considerar esse um objetivo louvável, os detectores de IA funcionam procurando frases previsíveis, vocabulário simples e gramática menos complexa – características da escrita gerada por IA que coincidentemente correspondem ao estilo de escrita de muitos falantes não nativos de inglês.

Os detectores, explica meu artigo, tornam muitos estudantes internacionais vulneráveis ​​a falsas acusações de trapaça. Falei com vários estudantes que estavam preocupados com as possíveis consequências, que iam desde conversas desconfortáveis ​​com os seus professores e mágoas até danos à reputação a longo prazo e potencial deportação. Também conversei com educadores que estavam frustrados com os problemas de precisão dos detectores, bem como com o pânico em torno do uso do ChatGPT em campi universitários.

O colapso do aprendizado de máquina

Quatro perguntas críticas que pais e educadores deveriam fazer

Se você perdeu a história da semana passada, confira e compartilhe com qualquer estudante universitário ou professor em sua vida. Eu ainda adoraria ouvir os instrutores que notaram tendências nos erros dos detectores de IA e os próprios alunos que foram falsamente acusados ​​de trapacear graças às ferramentas defeituosas. Além dos estudantes internacionais, os campi acolhem muitos imigrantes recentes cuja primeira língua não é o inglês, e eles também permanecem particularmente vulneráveis ​​aos preconceitos dos detectores de IA. Posso ser contatado em [email protected] se você quiser compartilhar sua experiência ou repassar meu e-mail para alguém que você conhece!

Enquanto isso, deixe-me contar como estou pensando sobre essa batida. Pretendo me concentrar no uso e uso indevido da tecnologia no ensino superior. Quero descobrir os danos que podem ser atribuídos ao uso da tecnologia educacional e à proliferação da aprendizagem online. Estou particularmente interessado em narrar os danos sofridos pelos estudantes com deficiência, pelos que têm rendimentos mais baixos, pelos que vivem em áreas rurais e pelos que são imigrantes, estudantes universitários de primeira geração, estudantes que regressam, cuidadores ou qualquer combinação dos anteriores. .

Embora as instituições de elite apareçam nas minhas histórias, analisarei mais de perto o que está a acontecer nos locais onde matricula a grande maioria dos estudantes do ensino superior dos EUA, ou seja, instituições menos selectivas, como faculdades comunitárias e instituições públicas de quatro anos.

Também quero investigar as empresas que ganham dinheiro com a educação com fins lucrativos e o mercado multibilionário de tecnologia educacional. Estarei de volta às suas caixas de entrada quando encontrar exemplos de seus lucros às custas dos estudantes.

Subir de nível

Use essas ferramentas e técnicas para obter “receitas das ruas” com pouco ou nenhum código

Tive várias conversas com pesquisadores, defensores, profissionais de TI, professores e estudantes nas últimas semanas, obtendo uma visão geral do mundo do ensino superior. Chego ao The Markup com mais de uma década de experiência em reportagens educacionais, embora principalmente em escolas de ensino fundamental e médio. Estou ansioso para obter uma compreensão mais profunda de como as faculdades e universidades funcionam – ou não – e expandir a cobertura do ensino superior do The Markup. Na verdade, aqui está outra mensagem, caso você tenha perdido: você viu a história de 2021 de Todd Feathers sobre como as universidades usam a raça como um fator de risco para o sucesso dos alunos? O software que Todd traçou, o Navigate da EAB, aparentemente ainda é usado por mais de 850 faculdades e universidades para aconselhar mais de 10 milhões de estudantes. Vale a pena dar uma olhada nos arquivos para ler a história!