Ускорение приложений на Delphi: принудительное выполнение потоков на одном ядре для гиперпродуктивности

Delphi , Компоненты и Классы , Потоки

Разработчики, работающие с многопоточными приложениями на языке Object Pascal в среде Delphi, зачастую сталкиваются с необходимостью оптимизации производительности. Одним из способов повышения эффективности работы приложения является использование кэшей процессора и управление потоками таким образом, чтобы они выполнялись на одном ядре, особенно если речь идет о гиперпоточных процессорах.

Проблема и контекст

Разработчик столкнулся с проблемой падения производительности приложения, обрабатывающего большие объемы данных, когда рабочий набор данных превышает размер кэша L2 (L3). Для улучшения производительности было решено использовать предварительную загрузку данных. В условиях гиперпоточности, когда многопоточное приложение выполняется на одном ядре, кэш процессора может быть использован более эффективно.

Предварительная загрузка данных и многопоточность

Представим, что у нас есть два потока: первый (A) выполняет основную работу, а второй (B) — отвечает за предварительную загрузку данных. Если мы сможем заставить оба потока выполняться на одном ядре, то поток B сможет заранее загружать данные, которые будут использоваться потоком A в будущем. Это позволит уменьшить время доступа к данным и тем самым ускорить работу приложения.

Пример псевдокода

procedure TWorkerThread.Execute;
begin
  Node:= WalkTheDataTree.GetNode;
  Dowork(Node.MyData);
  SyncWithThreadB;
end;

procedure TFetchThread.Execute;
begin
  WaitForThreadA;
  Node:= WalkTheDataTree_5_nodes_Ahead_of_A.GetNode; // Предварительная загрузка данных.
end;

Принудительное выполнение на одном ядре

Для того чтобы потоки выполнялись на одном ядре, можно использовать функцию SetThreadAffinityMask, которая позволяет задать маску процессоров для потока. Это позволяет ограничить поток определенным набором ядер. Важно понимать, что на гиперпоточных машинах первые N/2 логических процессоров — это физические ядра, а следующие N/2 — их гиперпоточные аналоги.

Пример кода на Delphi

uses
  System.SysUtils,
  DCPLATFMR;

var
  WorkerThreadAffinity: Cardinal;
  FetchThreadAffinity: Cardinal;
begin
  // Получение количества физических ядер
  WorkerThreadAffinity := GetProcessorMask(0);
  FetchThreadAffinity := GetProcessorMask(1);

  // Установка маски для потоков
  TWorkerThread.Create(nil).Handle.SetThreadAffinityMask(WorkerThreadAffinity);
  TFetchThread.Create(nil).Handle.SetThreadAffinityMask(FetchThreadAffinity);
end;

Функция GetProcessorMask возвращает маску для одного физического ядра, которая может быть использована для установки привязки потока к определенному ядру.

Альтернативные методы

Если не хочется использовать жесткую привязку к конкретному ядру, можно рассмотреть функцию SetThreadIdealProcessor, которая позволяет рекомендовать системе выполнение потока на определенном ядре, не жестко ограничивая его.

Заключение

Принудительное выполнение потоков на одном ядре может быть эффективным способом ускорения приложений, особенно тех, которые работают с большими объемами данных и могут извлечь выгоду из совместного использования кэша. Однако, следует помнить, что управление потоками — это сложная задача, и система обычно справляется с ней лучше, так как имеет более широкий контекст для принятия решений. Использование таких методов должно быть обдуманным и, возможно, требовать дополнительных тестов производительности.

Создано по материалам из источника по ссылке.

Ускорение приложений на Delphi достигается за счет принудительного выполнения потоков на одном ядре для эффективного использования кэша в гиперпоточных системах.

Комментарии и вопросы

Получайте свежие новости и обновления по Object Pascal, Delphi и Lazarus прямо в свой смартфон. Подпишитесь на наш Telegram-канал delphi_kansoftware и будьте в курсе последних тенденций в разработке под Linux, Windows, Android и iOS

:: Главная :: Потоки ::