Поддержка многопоточности в геометрическом ядре C3D

Параллельные вычисления — наше будущее.
И так будет всегда!

Эта старая программистская шутка напоминает о важности использования многопоточности в приложениях и о перспективах развития параллельных вычислений, а также намекает на сложности параллельного программирования.

Работы по организации многопоточной обработки данных в геометрическом ядре C3D начались несколько лет назад и активно продолжаются сейчас.

Поддержка многопоточности в ядре C3D включает в себя:

• использование многопоточных вычислений в ядре;
• обеспечение потокобезопасности ядра, которое кроме поддержки параллельных вычислений ядра также обеспечивает поддержку пользовательской многопоточности, т.е. обеспечивает безопасность использования интерфейсов ядра в параллельных вычислениях в пользовательском приложении.

OpenMP — это открытый стандарт для распараллеливания программ на языках С, С++ и Fortran, который реализуется в той или иной степени большинством популярных компиляторов. Применение технологии OpenMP для оптимизации кода ядра C3D позволяет решить проблемы его кроссплатформенности и совместимости.

Компиляторы обеспечивают поддержку OpenMP в разной степени. Например, на данный момент компилятор Intel С++ реализует OpenMP версии 4.5 и некоторое подмножество OpenMP версии 5.0, тогда как компилятор Microsoft C++ обеспечивает поддержку только OpenMP версии 2.0.

Параллельные вычисления в ядре C3D

Основные многопоточные операции ядра включают в себя:

• построение плоских проекций;
• расчет полигональных сеток;
• расчет массо-центровочных характеристик;
• операции конвертеров.

Время работы функции MassInertiaProperties() в разных режимах ядра

Однако гораздо чаще встречаются ситуации, когда объекты, обрабатываемые в разных потоках, зависят друг от друга (например используют одни те же данные) или же один и тот же объект участвует в вычислениях в разных потоках. Тогда на первый план выходит задача обеспечения потокобезопасного доступа к обрабатываемым данным.

Самым простым способом является использование блокировок, когда поток получает монопольный доступ к совместно используемым данным путем их блокирования.
Такой прямолинейный способ нередко ведет к росту времени ожидания на блокировках, что может свести на нет потенциальную выгоду от использования параллельных вычислений, а иногда и замедлить вычисления.

В ядре C3D эффективность параллельных вычислений и потокобезопасность объектов обеспечивается специальным механизмом — многопоточными кэшами.

Потокобезопасный доступ к объектам ядра

Использование кэширования данных, обычно эффективное при последовательном выполнении вычислений, при параллельном выполнении может спровоцировать так называемые гонки данных, когда несколько потоков соперничают за обладание общими кэшированными данными.

Для решения проблемы потокобезопасного доступа к данным в ядре C3D реализовано и используется многопоточное кэширование.

Как работают многопоточные кэши

Каждый поток работает со своей копией кэшированных данных. Это предотвращает конкуренцию за данные между потоками и минимизирует использование блокировок.

Управляет многопоточными кэшами в конкретном объекте его менеджер кэшей, который отвечает за создание, хранение и выдачу кэшированных данных объекта для текущего потока.

Многопоточное кэширование эффективно работает как при последовательном выполнении вычислений, так и при параллельных вычислениях. Несомненным плюсом является и то, что переход к использованию многопоточных кэшей требует минимальной переработки кода.

Работа механизма многопоточных кэшей управляется переключением режима многопоточности ядра.

Режимы многопоточности ядра

C3D может работать в следующих режимах:

• Режим Off — многопоточность ядра отключена. Все операции ядра выполняются последовательно. Механизм, обеспечивающий потокобезопасность объектов ядра, отключен.
• Режим Standard — стандартный режим многопоточности. Работает ограниченное распараллеливание операций ядра: распараллеливаются только операции, обрабатывающие независимые данные. Механизм потокобезопасности объектов ядра отключен.
• Режим SafeItems — режим потокобезопасности объектов ядра, при котором включается механизм многопоточного кэширования, но по-прежнему работает ограниченное распараллеливание операций ядра. Разработан для поддержки многопоточных операций в пользовательских приложениях.
• Режим Items — максимальный режим многопоточности ядра, когда включен механизм многопоточного кэширования и осуществляется распараллеливание всех операций ядра, где вычисления могут выполняться параллельно.

Описание режимов многопоточности ядра C3D и менеджера многопоточных кэшей смотрите в онлайн-документации: https://c3d.ascon.ru/doc/math/tool__multithreading_8h.html.

Поддержка пользовательской многопоточности

Как обеспечивается потокобезопасность ядра

Большинство операций ядра (включая те, которые не являются многопоточными) являются потокобезопасными, то есть могут использоваться в нескольких потоках, если используется режим многопоточности не ниже SafeItems.

Блокировки ядра реализованы на базе нативных механизмов синхронизации (таких как WinAPI на Windows и pthread API на Linux), что обеспечивает безопасность использования интерфейсов ядра в пользовательских приложениях, использующих различные механизмы распараллеливания.

Ядро C3D предоставляет интерфейсы для уведомления ядра о начале и конце параллельных вычислений, в которых используются интерфейсы C3D.

Важно! Пользовательское приложение, вызывающее интерфейсы C3D из нескольких потоков, должно уведомлять ядро о входе в параллельные вычисления и выходе из них.

Описание интерфейсов синхронизации ядра C3D смотрите в онлайн-документации: https://c3d.ascon.ru/doc/math/tool__mutex_8h.html.

Управление режимами многопоточности ядра

C3D предоставляет пользователям возможность динамически менять режим многопоточности ядра. Изменение режима многопоточности позволяет:

• управлять потокобезопасностью объектов ядра (включать/выключать многопоточное кэширование);
• определять, какие операции ядра будут распараллеливаться — все или только те, которые обрабатывают независимые данные.

Описание интерфейсов для просмотра и управления режимом многопоточности ядра C3D смотрите в онлайн-документации: https://c3d.ascon.ru/doc/math/class_math.html.

Использование интерфейсов C3D в многопоточном приложении

При использовании параллельных механизмов, отличных от OpenMP, пользовательское приложение обязано уведомлять ядро о входе в параллельный регион и выходе из него.

Для этого может быть использован один из следующих способов:

• класс ParallelRegionGuard (защитник параллельного региона в области видимости);
• функции EnterParallelRegion и ExitParallelRegion;
• макросы ENTER_PARALLEL и EXIT_PARALLEL.

Примеры уведомления ядра о входе в параллельный регион и выходе из него

Заключение

Ядро C3D поддерживает пользовательскую многопоточность, обеспечивая потокобезопасность операций ядра и предоставляя потокобезопасный доступ к данным объектов ядра. Ядро может быть сконфигурировано под особенности организации многопоточности в пользовательском приложении.