Две недели назад NBD Biblion , независимая некоммерческая организация, предоставляющая информационные услуги голландским библиотекам, объявила, что уволит большинство своих рецензентов.
NBD Biblion использовала команду из примерно 700 рецензентов, которые предоставляли краткие описания недавно опубликованных книг.
Рецензенты зарабатывали 14 евро за рецензию объемом от 200 до 300 слов. Библиотекари затем использовали эти описания, чтобы решить, какие названия добавить в свои коллекции , хотя такие описания — далеко не единственный источник, который использовали библиотекари.
Отныне, как пояснили в NBD Biblion, библиотеки смогут принимать решения о покупке на основе метаданных и описаний книг, генерируемых искусственным интеллектом.
За этим последовал крик ужаса.
В сообщениях в блогах , в Твиттере и литературных журналах решение NBD Biblion было встречено насмешками и тревогой. Эти реакции иллюстрируют беспокойство, которое испытывают многие люди в литературной сфере по поводу перспективы компьютерных технологий для оценки литературы.
Кроме того, эти реакции, похоже, основаны на предположении, что такие технологии всегда направлены на вытеснение человеческого фактора при публикации и даже при написании книг.
Для нас, специалистов по компьютерной литературе, этот инцидент стал поводом задуматься над некоторыми этическими аспектами нашего проекта.
В Impact & Fiction мы пытаемся соотнести особенности рецензий на книги, написанные людьми, с особенностями романов, написанных людьми, используя вычислительные подходы.
Мы верим – но нам еще предстоит доказать, – что мы можем получить новые идеи, делая это в больших масштабах.
Здесь большой масштаб означает использование более 500 000 рецензий и более 10 000 романов.
Эти цифры показывают, что мы не будем читать каждую рецензию или анализировать каждый роман вручную; агрегирование такого большого количества данных может осуществляться только с помощью автоматизированных инструментов.
В этом проекте мы будем использовать инструменты, которые, вероятно, очень похожи на те, которые используются для создания автоматизированных описаний NBD Biblion.
Мы говорим «вероятно», потому что технология, которую Bookarang , дочерняя компания NBD Biblion , использует для создания этих описаний, является запатентованной и окутана тайной.
Что это значит, когда вместо того, чтобы читать романы и обзоры, чтобы выявить и оценить отношения между ними, мы позволяем компьютерам и алгоритмам «читать» за нас?
Большие массивы данных могут быть искаженными и предвзятыми, и легко создать инструменты, которые играют на предвзятости ожиданий, предрассудках и подтверждении модели.
С другой стороны: отдельные рецензенты и исследователи во многих отношениях столь же предвзяты и предвзяты.
Что бы это значило, если бы вычислительные инструменты показали, что совокупность рецензий отображает особенно узкий или предвзятый взгляд на конкретный роман?
Как мы можем определить, является ли этот результат артефактом технологии или точным отражением мнения рецензента?
Дискуссия вокруг NBD Biblion еще раз подтвердила актуальность этих этических вопросов для нашего проекта.
Шумиха в сети напомнила нам, что наш проект вполне может способствовать дискуссиям по этическим аспектам использования вычислительных инструментов для изучения литературы и обзоров.
В ходе этого проекта мы хотим убедиться, что наши результаты и идеи, которые мы получаем из них, не искажаются вычислительными инструментами, которые мы используем.
В то же время мы хотим изучить, как вычислительные инструменты могут повлиять на исследовательский процесс, изменить методы исследования литературы и бросить вызов предубеждениям и предположениям, укоренившимся в невычислительных литературных исследованиях.
Понимание, которое мы получаем в этом процессе, может быть столь же ценным для научной области, как и результаты, которые мы ожидаем получить на основе количественного анализа.
В конечном счете, все полученные нами знания не направлены на искоренение человеческого фактора в литературном или академическом процессе.
Скорее наоборот: мы хотим, чтобы наши инструменты и результаты приносили пользу авторам, читателям и издателям.
Мы надеемся, что наша работа позволит всем участникам лучше понять потребности друг друга и то, как работает литература.
Авторы: Йорис Дж. ван Зундерт и Джулия Нойгартен