ПАРАЛЛЕЛЬНОЕ ПРОГРАММИРОВАНИЕ
          
        
        
          
            44
          
        
        
          
            Рис. 5.2. Пример локальной схемы взаимодействия процессов
          
        
        
          Контрольные вопросы этапа определения информационных потоков:
        
        
          •
        
        
          Соответствует ли вычислительная нагрузка процесса интенсивности его
        
        
          информационных потоков?
        
        
          •
        
        
          Является ли одинаковой интенсивность информационных потоков для раз-
        
        
          ных процессов?
        
        
          •
        
        
          Является ли схема информационного взаимодействия локальной?
        
        
          •
        
        
          Не препятствует ли выявленная информационная зависимость параллель-
        
        
          ному выполнению процессов?
        
        
          
            Распределение вычислительной нагрузки
          
        
        
          Распределение набора процессов, сформированного в результате декомпози-
        
        
          ции используемого метода параллельных вычислений, по процессорам  вычисли-
        
        
          тельной компьютерной системы:
        
        
          •
        
        
          процессы, которые могут выполняться параллельно, следует разместить на
        
        
          разных процессорах.
        
        
          •
        
        
          процессы,  между которыми имеется высокая информационная зависи-
        
        
          мость, целесообразно размещать на одних и тех процессорах.
        
        
          Замечание:
        
        
          
            Задача распределения вычислительной нагрузки является
          
        
        
          
            NP-полной проблемой.
          
        
        
          
            Балансировка вычислительной нагрузки
          
        
        
          •
        
        
          Статическая/динамическая – до начала или в процессе вычислений.
        
        
          •
        
        
          Затраты на динамическую балансировку должны согласовываться с полу-
        
        
          чаемым эффектом по ускорению параллельных вычислений.
        
        
          Различают следующие варианты алгоритмов динамической балансировки:
        
        
          •
        
        
          локальная/глобальная балансировка;
        
        
          •
        
        
          детерминированные / вероятностные модели.