- Анализ влияния алгоритмов декодирования на справедливость при генерации открытых языков(arXiv)
Автор:Джвала Дхамала, Варун Кумар, Рахул Гупта, Кай-Вей Чанг, Арам Галстян
Аннотация: несколько предыдущих работ показали, что языковые модели (ЯМ) могут генерировать текст, содержащий вредные социальные предубеждения и стереотипы. Хотя алгоритмы декодирования играют центральную роль в определении свойств сгенерированного LM текста, их влияние на достоверность поколений не изучалось. Мы представляем систематический анализ влияния алгоритмов декодирования на справедливость LM и анализируем компромисс между справедливостью, разнообразием и качеством. Наши эксперименты с алгоритмами декодирования top-p, top-k и температуры при генерации открытого языка показывают, что справедливость для демографических групп значительно меняется с изменением гиперпараметров алгоритма декодирования. Примечательно, что алгоритмы декодирования, которые выводят более разнообразный текст, также выдают больше текстов с негативными эмоциями и уважением. Мы представляем несколько выводов и даем рекомендации по стандартизированному отчету о деталях декодирования при оценке справедливости и оптимизации алгоритмов декодирования для обеспечения справедливости наряду с качеством и разнообразием.
2.Модифицированный алгоритм декодирования MWPM для квантовых поверхностных кодов по деполяризующим каналам(arXiv)
Автор:Япин Юань, Чунг-Чин Лу
Аннотация: Квантовые поверхностные коды — это своего рода коды квантовых топологических стабилизаторов, чьи стабилизаторы и кубиты геометрически связаны. Благодаря своей особой структуре поверхностные коды обладают большим потенциалом для того, чтобы привести людей к крупномасштабным квантовым вычислениям. При декодировании поверхностных кодов с идеальным соответствием с минимальным весом (MWPM) ошибки переворота битов и ошибки переворота фазы для простоты предполагаются независимыми. Тем не менее, эти два вида ошибок, вероятно, коррелируют в реальном мире. В этой статье мы предлагаем модификацию декодирования MWPM для поверхностных кодов, чтобы иметь дело с шумами в деполяризующих каналах, где ошибки переворота бита и ошибки переворота фазы коррелируют. С этой модификацией мы получаем пороги 17% и 15,3% для поверхностных кодов со смешанными границами и поверхностных кодов с дыркой соответственно.
3.Простой алгоритм кодирования-декодирования для кода Хэмминга(arXiv)
Автор:Омар Хадир
Аннотация: В этой работе мы представляем новый простой способ кодирования/декодирования сообщений, передаваемых по зашумленному каналу и защищенный от ошибок методом Хэмминга. Мы также предлагаем быстрый и эффективный алгоритм для процесса кодирования и декодирования, который не использует ни порождающую матрицу, ни матрицу проверки на четность кода Хэмминга.
