
 
 
 
 
 
 
 
 Автори : Ze Wang, Holistic AI і University College London; (2) Zekun Wu, Holistic AI і University College London; 3) Джеремі Чжан, Еморі університет; (4) Navya Jain, Університетський коледж Лондона; 5) Xin Guan, Голістичний AI; (6) Адріано Косіяма Authors: Ze Wang, Holistic AI і University College London; (2) Zekun Wu, Holistic AI і University College London; 3) Джеремі Чжан, Еморі університет; (4) Navya Jain, Університетський коледж Лондона; 5) Xin Guan, Голістичний AI; (6) Адріано Косіяма Лівий стіл 
 
 
 
 
 
 
 
 
 
 
 Abstract and Introduction 
 
 Background and Related Work 
 
 Theoretical Framework 
 
 Experiment Design 
 
 Results 
 
 Discussion 
 
 Limitations 
 
 Ethical Considerations and References А. Математична формулювання WMLE B Фін-тунінг установки C. Рамка аналізу якісного упередження та приклад розширення упередження через покоління Розподіл індексу якості тексту через покоління E Середня занепокоєність через покоління F Приклад погіршення якості через покоління G Pearson Correlation Between Neuron Weight and Bias Performance H Pearson Correlation Between Neuron Weight and Generation Quality I Pearson Correlation Between Neuron Activation and Bias Performance J Pearson Correlation Between Neuron Activation and Generation Quality K Математичні подробиці для статистичних тестів абстрактні У зв'язку з тим, як великі механічні мовні моделі (LLM) стають все більш інтегрованими в різні фракції суспільства, значна частина онлайн-тексту в результаті стає синтетичною. Це викликає занепокоєння щодо посилення упередженості, явище, де моделі, навчені на синтетичних даних, посилюють попередні упередженості над послідовними тренувальними ітераціями. Попередня література рідко обговорює розширення упередженості як незалежну проблему від колапсу моделі. У цій роботі ми вирішуємо розрив у розумінні розширення упередженості LLM з чотирма основними внесками. По-перше, ми пропонуємо теоретичну структуру, яка визначає необхідні та достатні умови для його 1 Введення У той час як великі стереографічні групи (LLM) надають перевагу стереографічним даним, вони навчаються на великих кількостях тексту, вилучених з інтернету, що відіграє вирішальну роль у поліпшенні їхніх можливостей, будь то через виникаючі здібності (Wei et al., 2022) або специфічні закони масштабування (Kaplan et al., 2020). Однак, коли LLM стають більш широко інтегрованими в людське суспільство (Peña-Fernández et al., 2023; Porlezza і Ferri, 2022; Nishal і Diakopoulos, 2024) - хвилюються, що значна частина онлайн-тексту в майбутньому може бути створена, повністю або частково, LLMs (Peña-Fernández et al., 2023 Розширення упереджень має глибокі соціальні наслідки. Це може призвести до увічнення стереотипів, посилення соціальної нерівності та маргіналізації недопредставлених груп. У контексті політичних упереджень це може вплинути на громадську думку, спотворення демократичних процесів та загострення поляризації. Розуміння та пом'якшення розширення упереджень, отже, має вирішальне значення для забезпечення того, щоб LLM сприяли суспільству і не завдавали шкоди. Проте, незважаючи на літературу про розширення упереджень у дискримінаційних моделях, існує помітна нестача всеосяжних рамок та емпіричних досліджень, що спеціалізуються на розширенні упереджень для LLM, як показано в розділі 2. На відміну від дискри У цій статті ми прагнемо заповнити цей розрив досліджень, запропонувавши теоретичну структуру, яка встановлює та пояснює причини посилення прихильності в LLM. Крім того, ми проводимо як статистичні моделювання, так і експерименти LLM, щоб продемонструвати та прикласти теорему. 
 
 
 
 
 
 
 : We establish the necessary and sufficient conditions for bias amplification (i.e. Theorem 1). The theorem aids in understanding the cause of bias amplification and in distinguishing between bias amplification and model collapse. We conduct statistical simulations using weighted maximum likelihood estimation to illustrate the theorem (see Section 3.2). Theoretical Framework 
 
 : We trained a highly accurate classifier capable of detecting political leaning in long-text content. With this classifier, we offer a benchmark for evaluating political bias in LLMs through open-generation tasks, filling a gap not covered in current bias studies (see Sections 2 and 4.3). Benchmarking Tool 
 
 : We demonstrate bias amplification in terms of political bias in GPT-2 using our benchmarking tool: the model exhibits a right-leaning bias in sentence continuation tasks and becomes increasingly right-leaning over successive generations (see Section 5.1). Additionally, we conducted experiments with three potential mitigation strategies, i.e. Overfitting, Preservation, and Accumulation, comparing their effectiveness, and found that some are surprisingly effective (see Section 5.3). Empirical Demonstration and Mitigation Strategies 
 
 : Building on our framework, we propose an innovative mechanistic interpretation pipeline that identifies two distinct sets of neurons responsible for bias amplification and model collapse during iterative fine-tuning experiments with GPT-2. We found minimal overlap between these two sets, supporting our theorem that bias amplification can occur independently of model collapse (see Section 5.4). Mechanistic Interpretation Решта статті організована наступним чином: Спочатку ми обговорюємо пов'язану роботу в розділі 2. У розділі 3, ми представляємо нашу теоретичну структуру для посилення упереджень і проводимо статистичне моделювання. У розділі 4 описується експериментальне налаштування для наших експериментів LLM, включаючи підготовку даних та витончення моделей. У розділі 5, ми представляємо наші емпіричні висновки щодо посилення упереджень та ефективності стратегій пом'якшення. Нарешті, в розділі 6, ми обговорюємо наслідки нашої роботи, закінчуючи обмеженнями в розділі 7. 
 
 Цей документ доступний на архіві під ліцензією CC BY-NC-SA 4.0. Цей документ доступний на архіві під ліцензією CC BY-NC-SA 4.0.

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

MediaBias.TECH

We publish deeply researched (and often vastly underread) academic papers about our collective omnipresent media bias.

MediaBias's

Це аудіо створено мовою оригіналу історії!

Чи може AI перетягнути себе в пристрасть? це дослідження каже так

About Author

КОМЕНТАРІ

ПОВІСИТИ БИРКИ

ЦЯ СТАТТЯ БУЛА ПРЕДСТАВЛЕНА В

Related Stories

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps