Закон Амдала. (не адамала!)



Скачать 61.36 Kb.
Дата26.07.2014
Размер61.36 Kb.
ТипДокументы
8) Параллельные вычислительные системы, уровни параллелизма, закон Амдала. (не адамала!)

3 уровня параллелизма: программ(кластер), команд (конвейер процессора), битов (арифметичекский параллелизм)

Гранулярность: мера отношения параллелизма задачи к объему коммуникаций между ВС. Разделяют 3 уровня: крупнозернистый, среднезернистый, мелкозернистый.

Степень параллелизма – число процессоров, параллельно выполняющих программу в каждый момент времени. График загузки процессоров – профиль параллелизма.



(Площадь под графиком, Tc,Tp – время начала и окончания, Dct – график загрузки )


Метрики эффективности: ускорение, эффективность, загрузка, качество. Например, если n – кол-во процессоров, O(n) количество операций на n процессорах, t(n) – время выполнения этих O(n) то:

S(n) = t(1)/t(n). – ускорение. E = S(n) /n – эффективность (ускорение на 1 процессор)

Количество команд в параллельной программе может быть больше последовательной из-за поддержки коммуникаций.

График * бывает если 1)работа с памятью, увеличение кеша, меньше кеш-промахов



A1

A2

послед

парал

T

T

1с+0



T

F

1с+0



F

T

100с+1с



F

F

100с+100с

100с







303/4 = 76 сек

103/4=26сек

2) проверкаусловия или-и (см.таблицу)

Факторы ограничения: 1) программные издержки, при распараллелиывании алгоритма

2) издержки из-за дисбаланса загрузки процессора

3) коммуникационные издержки



Закон Амдала: В случае, когда задача разделяется на несколько частей, суммарное время ее выполнения на параллельной системе не может быть меньше времени выполнения самого длинного фрагмента.

Предположим, что необходимо решить некоторую вычислительную задачу. Предположим, что её алгоритм таков, что доля α от общего объёма вычислений может быть получена только последовательными расчётами, а, соответственно, доля 1 − α может быть распараллелена идеально (то есть время вычисления будет обратно пропорционально числу задействованных узлов p). Тогда ускорение, которое может быть получено на вычислительной системе из p процессоров, по сравнению с однопроцессорным решением не будет превышать величины

То есть время вып. параллельной части Tp = αTs + (1- α)Ts/n где Ts – время выполнения всей программы. А S = Ts/Tp. Формула не учитывает издержки, сопровождающие ускорение.s_p = \cfrac{1}{\alpha + \cfrac{1 - \alpha}{p}}
9) Вычислительные системы класса SIMD. Векторные, матричные, систолические вычислительные системы

Simd – single instruction multiple data. В 1 инструкции действия для всех устройств процессора. Векторный процессор – в котором операнды это упорядоченные массивы данных, то есть вектора.

Использование – цифровые фильтры, матрицы. Структура АЛУ:

Был еще рисунок где несколько конвейерных АЛУ.

Стадии операций: сравнение порядков, сдвиг мантиссы, сложение мантисс, нормализация.
Стурктура векторного процессора:

1 – регистр в котором хранится размерность входного вектора

2 - хранится макс. значение, которое можно загрузить в векторные регистры.

3 - некая совокупность индексов матрицы, которую мы обрабатываем.

4 – маскирует где стоят 0, то есть нет инфы и они не используются для вычисления.

Векторный вычислитель:



Например матрица 3х3: . операций умножения и сложения.

Структура память-память: нет входных регистров. Поступает адрес входных элементов, результат тоже сохраняется в память. Минус – большие задержки. Структура регистр-регистр: иногда делают операцию сцепления векторов, векторы закольцовываются

Матричные ВС.

Обобщенная модель:



К 1 передаются данные программы, потом передаются в 2, и распределяются по массиву процессоров. Данные в 3 могут поступать по шине или от устройств ввода-вывода.

Схема контроллера массива процессоров:

ПЭ – процессорные элементы. Глобальная маска определяет какие ПЭ будут участвовать в текущий момент в выполнении команды.

Архитектурная реализация МП:



Процессорный элемент:





Систолические ВС:


Х встет. с У поэтому в нескольких ПЭ производится вычисление (??) Увых = Увх+ХвхАвх

Это однородная вычислительная среда из ПЭ. Вычислительный процесс представляет собой регулярную передачу данных от одного ПЭ к другому без промежуточного запоминания результатов.

Классификация систолической структуры:


  1. Специализированные – когда четкая связь между ПЭ и жестко заданы операции.

  2. Алгоритмически ориентированные – можно управлять типом операций в ПЭ.

  3. программируемые – настраиваем как хотим связи ПЭ и операций.

Характеры связей: одномерные, двумерные, трехмерные. Одномерная – как на рисунке выше где смысл реализации, двумерная – типа прямоугольник. Может быть еще гексагональная конфигурация когда ПЭ шестиугольники и связи между соответствующими гранями, как соты.
10) Вычислительные системы класса MIMD. SMP, MPP, кластерные, транспьютерные вычислительные системы

Структура SMP системы:

CPU-кэш-комутационная среда-ОП и Устр. В/В. Может быть с общей шиной, с коммутатором CrossBar, с многопортовой памятью.

Лень такое рисовать, уж извините:




Классификация кластеров:

  1. Пассивное резервирование (при отказе активного сервера переход на пассивный, но он вычисления не производит).

  2. Резервирование с активным вторичным сервером

  3. самостоятельный сервер - Самостоятельные серверы имеют собственные диски, а данные постоянно копируются с первичного сервера на вторичный

  4. сервер без совместного использования дисков – связаны по в/в, диски свои

  5. сервер с совместным использованием дисков – raid, общая дисковая подсистема

Топология кластерных систем: кластерная пара, топология N+1, топология NxN( централизованное устройство управления).

Кластерная ВС: группа совместно работающих вычислительных узлов, составляющих единый вычислительный ресурс. Важно лишь то, что каждый узел в состоянии функционировать самостоятельно и отдельно от кластера. В плане архитектуры суть кластерных вычислений сводится к объединению нескольких узлов высокоскоростной сетью.

Плюсы: хорошая масштабируемость, надежность, расширяемость, высокий коэффициент готовности, отказоустойчивость. Хорошее отношение цена/производительность.

На уровне аппаратного обеспечения кластер — это просто совокупность независимых вычислительных систем, объединенных сетью.



Транспьютерная ВС:
Наличие встроенных портов для обмена инфой – это отличие транспьютеров.

Исп. Встроенные внутренние DMA каналы, память.

Осторожно википедия:

Транспьютер (англ. transputer) — элемент построения многопроцессорных систем, выполненный на одном кристалле большой интегральной схемы, продукт английской компании INMOS Ltd. (ныне — подразделение STMicroelectronics).

Термин транспьютер происходит от слов Transistor и Computer. Такой генезис должен, по мнению разработчиков, подчёркивать возможность построения сложных вычислительных комплексов на базе транспьютеров, где их роль уподоблялась бы роли транзисторов, выступающих основным элементом при проектировании электронных схем. Другая интерпретация: trans-put-er — тот, кто передаёт, указывает на присутствие встроенных скоростных устройств ввода/вывода для обмена с соседними процессорами.

Параллельная система может создаваться из набора транспьютеров, которые функционируют независимо и взаимодействуют через последовательные каналы связи. Такие системы можно проектировать и программировать на языке Occam, основанном на концепции взаимодействующих процессов (англ.), или на других языках (например, Concurrent C, Concurrent Fortran), имеющих соответствующие средства.

Язык программирования Occam был разработан компанией INMOS на основе теории Энтони Хоара (англ. C. A. R. Hoare) о взаимодействии процессов. Occam является алголо-подобным языком высокого уровня; при этом язык оптимизирован с точки зрения эффективности его трансляции в систему команд транспьютера. Первоначально INMOS даже предлагала воспринимать Occam в качестве транспьютерного ассемблера, но позже выпустила пакет низкоуровневых средств для разработчиков компиляторов, а также включила в Occam предписание GUY, позволяющее вставлять код на уровне процессора.

Транспьютеры успешно использовались в различных областях — от встроенных систем до суперЭВМ. В настоящее время транспьютеры не производятся, будучи вытесненными похожими разработками конкурентов, особенно Texas Instruments (TMS320) и Intel (80860). Принято считать, что концепция транспьютеров оказала заметное влияние на развитие микропроцессорной техники 1980—1990-х годов. Так, термин линк (link) — физический канал связи между параллельно работающими процессорами — пришёл из транспьютеров, а протокол транспьютерного линка стал стандартом IEEE.


Осторожно, рисунок:



Системы MPP (массовая параллельная обработка)

Используются стандартные процессоры, физически распределенная память, сеть межсоединений с высокой скоростью, масштабируемость >100 процов, обычно общее устройство управления.



У заданий свой уровень приоритета. Программы – множество процессов со своими адресными пространствами.

Похожие:

Закон Амдала. (не адамала!) iconЗакон Амдала. Параллельные системы
Потоки выполнения. Распределенные и параллельные системы, их отличия. Масштабируемость, закон Амдала
Закон Амдала. (не адамала!) iconЗакон единства слова и дела. Закон чести и совести. Закон дружбы и товарищества. Закон заботы и милосердия

Закон Амдала. (не адамала!) iconКонтрольные вопросы к зачёту Логика – Виснап Н. Е
...
Закон Амдала. (не адамала!) iconФизика Механические явления
Ньютона, закон сохранения импульса, закон Гука, закон Паскаля, закон Архимеда; при этом различать словесную формулировку закона и...
Закон Амдала. (не адамала!) iconЗакон сильных: вот наш закон и радость мира." Al. II. 21 "Поступай согласно твоей воле, вот весь Закон."
Этот Закон каждому мужчине и женщине, которых ты
Закон Амдала. (не адамала!) iconЗакон сохранения электрического заряда. Закон Кулона
...
Закон Амдала. (не адамала!) iconВыше всего в жизни людской закон, и неписаный закон выше писаного
Писаный закон в каждом государстве свой, он установлен людьми, он не вечен, его можно издать и отменить. О том, что неписаный закон...
Закон Амдала. (не адамала!) iconЗакон сохранения полной механической энергии системы
Основной закон релятивистской динамики (закон сохранения релятивистского импульса)
Закон Амдала. (не адамала!) iconЗакон Ньютона. Второй закон Ньютона. Третий закон Ньютона
Первый закон Ньютона: существуют такие системы отсчета, относительно которых тело покоится или движется прямолинейно равномерно,...
Закон Амдала. (не адамала!) iconЗакон о проверке достоверности и полноты сведений, представляемых
Настоящий областной закон (далее настоящий закон) в соответствии с федеральным законодательством определяет порядок осуществления...
Разместите кнопку на своём сайте:
ru.convdocs.org


База данных защищена авторским правом ©ru.convdocs.org 2016
обратиться к администрации
ru.convdocs.org