Страница: 11/14
За ложное решение, принятое компьютерной системой, не могут нести ответственность в отдельности ни проектировщик, ни создатель программы или математического обеспечения системы, ни руководитель соответствующего вычислительного центра. Может ли такую ответственность нести политический деятель, стоящий далеко от компьютерных систем и понимания их механизмов воздействия, однако занимающий пост, облеченный ответственностью? И вообще существует ли здесь общая, глобальная ответственность за нормальное функционирование, а также за сбой или выход из строя решающих устройств?
Итак, человек вынужден довериться по возможности безошибочным и безупречным информационным и решающим системам. Означает ли это, что ответственность теперь заложена в системах? Можно ли сказать, что человек постепенно освобождается от ответственности, в то время как системы становятся все более «ответственными»? И вообще, в каком смысле система может быть ответственна? Относится ли эта передача ответственности системам только к сфере поисков причин тех или иных ошибок или сбоев в системах с целью восстановления безупречного функционирования устройства? Или, быть может, такая «взявшая на себя ответственность» система несет еще и юридическую, и даже моральную ответственность? Вообще-то кажется ясно, что компьютеры не являются моральными, социальными существами и что информационные системы не могут брать на себя — в узком смысле слова — моральную ответственность. С другой стороны, если мы хотим воспрепятствовать дальнейшему распространению какого-либо возникшего внутри системы состояния, которое не содержит явного «состава преступления», достаточного для того, чтобы обвинять его в отсутствии ответственности, фактически определенного рода ответственность системы все же налицо.
У.Бехтель и Д.Снэппер в своих работах полностью специфицируют реализуемые условия для гибко, программно регулируемых разрешающих систем, которые, по их мнению, позволяют нам вменять этим системам правовую и моральную ответственность [5]. Снэппер, например, полагает, что с правовой точки зрения законы могут и должны быть изменены так, чтобы компьютеры могли считаться «ответственными» в том смысле, чтобы их эксплуатирующие (а в определенных случаях и их изготовляющие и поставляющие) учреждения и предприятия гарантировали от возможного их выхода из строя, сбоя или от ущерба, нанесенного ими по ходу их функционирования. Сам компьютер «не может принимать некую (ментальную) установку по отношению к сделанному им выбору». В этом смысле компьютеры не осуществляют каких-либо рефлективных, тем более направленных на самих себя сознательных процессов или сознательных репрезентаций, которые бы учитывали субъективность и положение действующего субъекта, как и его включение в контекст других действующих субъектов. В этом, более специфическом, характерном для социальности и моральности смысле компьютеру нельзя, разумеется, вменять никакой ответственности. Компьютер, считает Снэппер, может нести ответственность в плане своей способности обдумывать, однако в плане вполне сознательных и произвольных (свободных от внешнего условия) действий он никакой ответственности нести не может.
В той мере, в какой компьютерные и решающие системы именно как системы с внутренней адаптационной способностью могут свои внутренние состояния и свою продуктивную способность приспосабливать к сигналам и данным внешней среды, они будут в состоянии изменять свои реакции на данные в соответствии с вводимой программой и со стратегическими метапрограммами. Такие системы в состоянии изменять свое поведение и даже саму программу своего поведения при реакции на окружающую среду. Для этого, по мнению Бехтеля, понадобятся «метаправила, назначение которых сводится к тому, чтобы изменять правила внутри самой системы. Например, обучение внутри какой-либо производственной системы требует внутренние правила производства, которые, если их активизировать, могут дополнительно создавать новые выработки, снимать или изменять другие». Конечно, традиционный последовательный компьютер, напоминающий неймановскую архитектуру, не может реализовать что-то подобное, однако существуют формы реализации и модели «параллельно обрабатывающих процессорных автоматов, которые смоделированы в соответствии с нейронной сетью человеческого мозга». Параллельно работающая адаптивная система, сориентированная на внешнюю среду, также не «регулируется исключительно эксплицитными правилами, накопленными внутри системы», но создает курс и стратегию в зависимости «от начального активирования, от степени переплетения между единицами» и последующими сигналами из окружающей среды. Из приспособительной системы вырастает обучающаяся система, которая «может принимать решения как ответ на различные введенные данные».
Реферат опубликован: 10/07/2006