ПАРАЛЛЕЛЬНОЕ ПРОГРАММИРОВАНИЕ
9
ПРИНЦИПЫ ПОСТРОЕНИЯ
ПАРАЛЛЕЛЬНЫХ ВЫЧИСЛИТЕЛЬНЫХ СИСТЕМ
Пути достижения параллелизма
Процессы обработки данных, в которых одновременно могут выполняться
нескольких машинных операций, называются
параллельными вычислениями
.
Необходимые требования к архитектурным принципам построения вычисли-
тельной системы для достижения параллелизма:
•
независимость функционирования отдельных устройств ЭВМ;
•
избыточность элементов вычислительной системы, организованная в
следующих основных формах:
o
использование специализированных устройств, таких как отдельные
процессоры для целочисленной и вещественной арифметики, устрой-
ства многоуровневой памяти (регистры, кэш);
o
дублирование устройств ЭВМ путем использования нескольких
однотипных обрабатывающих процессоров или нескольких
устройств оперативной памяти;
o
конвейерная реализация обрабатывающих устройств
При рассмотрении проблемы организации параллельных вычислений следует
различать следующие возможные режимы выполнения независимых частей
программы:
•
многозадачный режим
(режим разделения времени), когда для выполнения
процессов используется единственный процессор. Данный режим является
псевдопараллельным, когда активным (исполняемым) может быть один
единственный процесс, а все остальные находятся в состоянии ожидания
своей очереди на использование процессора. Использование режима разде-
ления времени может повысить эффективность организации вычислений
(например, если один из процессов не может выполняться из-за ожидания
вводимых данных, процессор может быть задействован для готового к
исполнению процесса [6, 13]). Кроме того, в данном режиме проявляются
многие эффекты параллельных вычислений (необходимость взаимоисклю-
чения и синхронизации процессов и др.). Этот режим рекомендуется
использовать при начальной подготовке параллельных программ;
•
параллельное выполнение
, когда в один и тот же момент времени может
выполняться несколько команд обработки данных. Данный режим вычис-
лений может быть обеспечен не только при наличии нескольких