Численное моделирование лазерной плазмы на суперкомпьютерах

Краткое описание

lazer

Одной из востребованных областей численного моделирования физических процессов является моделирование динамики плазмы и взаимодействия мощных лазерных импульсов с различными мишенями. В числе важных приложений можно выделить создание компактных источников для адронной терапии при лечении онкологических заболеваний, создание фабрик короткоживущих изотопов для биоимиджинга, разработку приборов для исследования внутримолекулярных и внутриатомных процессов. Часто, в связи с высокой степенью нелинейности и геометрической сложностью задачи, исследование динамики плазменных структур основывается на моделировании плазмы методом частиц в ячейках (Particle-in-Cell, PIC). Основная специфика метода заключается в одновременной обработке принципиально разнородных массивов данных, содержащих информацию о считающихся непрерывными координатах и скоростях заряженных частиц плазмы, и об электромагнитном поле, определенном на пространственной сетке. Отсутствие однозначных путей упорядочивания обращений к памяти обуславливает сложность эффективной программной реализации как для классических кластерных вычислительных систем, так и для гетерогенных систем с использованием ускорителей. Применение метода для решения прикладных задач требует использования суперкомпьютерных технологий – известны задачи, требующие моделирования динамики ~1010 и более частиц в пространстве, представленном ~109 ячеек.

С 2010 года коллективом разрабатывается программный комплекс (PIC-код) PICADOR, включающий параллельную реализацию метода частиц в ячейках для гетерогенных кластерных систем с использованием CPU, GPU и Intel Xeon Phi. Код является одной из первых реализаций метода частиц в ячейках, оптимизированных для Xeon Phi.

Проект развивается на кафедре математического обеспечения и суперкомпьютерных технологий ИИТММ ННГУ в сотрудничестве с исследовательскими группами из Института прикладной физики РАН (Нижний Новгород), Чалмерского технологического университета, Университета Гетеборга и университета Умеа (Швеция).

Расчеты производятся с использованием следующих суперкомпьютеров: «Лобачевский» (ННГУ), «Ломоносов» (МГУ), суперкомпьютеры МСЦ РАН, Abisko (HPC2N, Швеция), Triolith (NSC, Швеция).

О проекте (доклад на семинаре центра СКТ в ИВМиМГ РАН).


Коллектив

Со-руководители проекта

Разработчики кода

  • Сергей Бастраков, к.ф.-м.н., научный сотрудник HZDR (Дрезден, Германия)
  • Валентин Волокитин, аспирант, ИИТММ ННГУ (в настоящее время — основной разработчик кода)
  • Игорь Сурмин, выпускник ИИТММ ННГУ
  • Елена Панова, студент ИИТММ ННГУ
  • Александр Панов, студент ИИТММ ННГУ
  • Кирилл Тараканов, студент ИИТММ ННГУ
  • Юрий Родимков, студент ИИТММ ННГУ
  • Анастасия Арисова, студент ИИТММ ННГУ

Разработчики расширений, пользователи кода

  • Алексей Башинов, м.н.с., ИПФ РАН
  • Артем Коржиманов, к.ф.-м.н., н.с., ИПФ РАН
  • Александр Муравьев, м.н.с., ИПФ РАН
  • Felix Mackenroth, PhD, научный сотрудник, Max Planck Institute for the Physics of Complex Systems (Germany)
  • Joel Magnusson, PhD student, Chalmers University of Technology (Sweden)
  • Erik Wallin, PhD student, Umea University (Sweden)
  • Tom Blackburn, PhD, научный сотрудник,  Chalmers University of Technology (Sweden)

Ранее в проекте участвовали

  • Роман Донченко, магистрант, ВМК ННГУ
  • Александр Малышев, магистрант, ВМК ННГУ
  • Михаил Ширяев, магистрант, ВМК ННГУ
  • Михаил Савичев, магистрант, ИИТММ ННГУ
  • Михаил Млодик, студент, ВШОПФ ННГУ
  • Анатолий Розанов, магистрант ИИТММ ННГУ
  • Антон Ларин, магистрант ИИТММ ННГУ

Характеристики кода PICADOR

PICADOR – программный комплекс для трехмерного моделирования плазмы на традиционных и гетерогенных суперкомпьютерах. Код основан на методе частиц в ячейках и обладает следующими особенностями:
1. Широко используемые численные схемы для электромагнитного метода частиц в ячейках: интегрирование уравнений поля с помощью FDTD и NDF, а также спектральных методов, схемы Бориса и Вэя для движения частиц, форм-факторы частиц CIC и TSC, схемы взвешивания токов Вилласенора-Бунемана и Есиркепова, бегущее окно.
2. Расширяемость с помощью средств для разработки модулей. Основные расширения:

  • Конфигурируемый вывод и визуализация в процессе расчета.
  • Учет эффектов КЭД (см. Gonoskov et al. PRE 92, 023305, 2015).
  • Ионизация.

3. Использование вычислительных ресурсов CPU (OpenMP, MPI), GPU (CUDA), Intel Xeon Phi (OpenMP, MPI), в том числе гетерогенные конфигурации (см. I.A. Surmin et al. CPC, 202, 2016).
4. Динамическая декомпозиция с балансировкой нагрузки на распределенной (см. Surmin I. et al. LNCS, 9251, 2015) и общей памяти (см. Meyerov I. et al. LNCS, 12043, 2019), включая задачи квантовой электродинамики.
5. Широкий спектр методов динамической оптимизации ансамбля макрочастиц (ресемплинг; см. Muraviev A. et al. CPC 262, 107826, 2021).
6. Эффективность масштабируемости (в сильном смысле):

  • Распределенная память: 92% на 256 CPU, 90% на 64 сопроцессорах Xeon Phi;
  • Общая память: 99% на 16 ядрах CPU, 78% на 60 ядрах Xeon Phi.

7. Производительность на тестовой задаче с форм-фактором CIC, схемой взвешивания токов Вилласенора-Бунемана, двойная точность:

  • Intel Xeon E5-2697 v3: 7.9 нс/обновление частицы, 42.5 GFLOPS
  • Intel Xeon Phi 7250 (KNL): 3.4 нс/обновление частицы, 100 GFLOPS

  • Проект hi-Chi

С 2019 года группа разрабатывает программный комплекс с открытым кодом hi-Chi. Данный программный комплекс предназначен для моделирования высокоинтенсивных взаимодействий лазерного излучения с веществом. Основанный на опыте разработки PIC-кода PICADOR, Hi-Chi содержит оптимизированное вычислительное ядро, реализованное на C++, и набор инструментов на Python, позволяющих конструировать вычислительную среду и конфигурировать ее под конкретную задачу.  В настоящее время проект содержит значительную часть ранее реализованных в PICADOR компонентов, которые распараллелены на OpenMP. Разработка распределенной версии кода ожидается к концу 2021 года.

В конце 2020 года в ННГУ при поддержке компании Intel был создан Центр компетенций oneAPI, одной из задач которого является портирование hi-Chi на язык программирования Data Parallel C++ (DPC++) для обеспечения его работы на разных вычислительных архитектурах.

Наряду с традиционной для группы тематикой высокопроизводительных вычислений, с 2019 года группа работает над использованием методов машинного обучения и искусственных нейронных сетей для подготовки натурных экспериментов и обработки их результатов (см. Gonoskov A. et al. Sci. rep., 9, 7043, 2019, Rodimkov Y. et al. Entropy, 23(1), 21, 2021).


Текущие исследования

1. Оптимизация производительности PICADOR и hi-Chi для CPU, GPU и гетерогенных конфигураций. Портирование кодов на oneAPI.
2. Динамическая оптимизация ансамбля частиц для расчетов с КЭД.
3. Применение искусственных нейронных сетей для анализа экспериментальных данных.
4. Расчеты с использованием разных режимов точности (двойная точность, одинарная точность, половинная точность, смешанный режим).


Гранты и награды

1. Грант в рамках научного проекта «Надёжный и логически прозрачный искусственный интеллект: технология, верификация и применение при социально-значимых и инфекционных заболеваниях» (часть коллективного проекта, 2020).
2. Приз за лучший научный доклад на конференции молодых ученых в рамках международной конференции ПАВТ (Е. Панова, Калининград, 2019).
3. Приз за лучшую статью на конференции «Суперкомпьютерные дни в России» (Москва, 2015).
4. Гранты Российского фонда фундаментальных исследований (РФФИ):

  • № 18-47-520001 (2018-2020);
  • № 15-37-21015 (2015-2016);
  • № 14-07-31211 (2014-2015).

5. Свидетельства о государственной регистрации программ для ЭВМ:

  • № 2015611475 (2015);
  • № 2013613052 (2013).

6. Победитель всех этапов всероссийского конкурса «Эффективное использование GPU-ускорителей при решении больших задач» (МГУ+Т-Платформы, 2011).
7. Грант федеральной целевой программы «Научные и научно-педагогические кадры инновационной России», госконтракт 02.740.11.0839 (часть коллективного проекта).


О нас пишут

1. Intel Academic Program for oneAPI. Intel (2020).
2. Chirgwin, R. Hot iron: Knights Landing hits 100 gigaflops in plasma physics benchmark. The Register (2016).
3. Barney L. Particle-in-cell Plasma Simulation Using Supercomputers Enhances Computational Physics. Scientific Computing (2016).

Избранные статьи и доклады

Основные статьи с описанием кода

  1. Surmin I.A., Bastrakov S.I., Efimenko E.S., Gonoskov A.A., Korzhimanov A.V., Meyerov I.B. Particle-in-Cell laser-plasma simulation on Xeon Phi coprocessors. Computer Physics Communications, 202, 204-210 (2016)
  2. Gonoskov A., Efimenko E., Ilderton A., Marklund M., Meyerov I., Muraviev A., Sergeev A., Surmin I., Wallin E. Extended particle-in-cell schemes for physics in ultrastrong laser fields: Review and developments. Physical review E, 92 (2015)
  3. Bastrakov S., Gonoskov A., Donchenko R., Efimenko E., Malyshev A., Meyerov I., Surmin I. Particle-in-Cell Plasma Simulation on Heterogeneous Cluster Systems. Journal of Computational Science. 3 (6), 474-479 (2012)

Параллелизм, оптимизация

  1. Volokitin, V., Bashinov, A., Efimenko, E., Gonoskov, A., Meyerov, I. (2021). High Performance Implementation of Boris Particle Pusher on DPC++. A First Look at oneAPI. arXiv:2104.04579.
  2. Muraviev, A., Bashinov, A., Efimenko, E., Volokitin, V., Meyerov, I., Gonoskov, A. (2021). Strategies for particle resampling in PIC simulations. Computer Physics Communications, 262, 107826.
  3. Volokitin, V., Bastrakov, S., Bashinov, A., Efimenko, E., Muraviev, A., Gonoskov, A., Meyerov, I. (2020). Optimized routines for event generators in QED-PIC codes. In Journal of Physics: Conference Series (Vol. 1640, No. 1, p. 012015). IOP Publishing.
  4. Panova, E.; Volokitin, V.; Efimenko, E.; Ferri, J.; Blackburn, T.; Marklund, M.; Muschet, A.; De Andres Gonzalez, A.; Fischer, P.; Veisz, L.; Meyerov, I.; Gonoskov, A. Optimized Computation of Tight Focusing of Short Pulses Using Mapping to Periodic Space. Appl. Sci. 2021, 11, 956.
  5. Meyerov, I., Panov, A., Bastrakov, S., Bashinov, A., Efimenko, E., Panova, E., Surmin, I., Volokitin, V., Gonoskov, A. (2019). Exploiting Parallelism on Shared Memory in the QED Particle-in-Cell Code PICADOR with Greedy Load Balancing. In International Conference on Parallel Processing and Applied Mathematics (pp. 335-347). Springer, Cham.
  6. Larin A. et al. (2018) Load Balancing for Particle-in-Cell Plasma Simulation on Multicore Systems. In: Wyrzykowski R., Dongarra J., Deelman E., Karczewski K. (eds) Parallel Processing and Applied Mathematics. PPAM 2017. Lecture Notes in Computer Science, vol 10777. Springer, Cham.
  7. Surmin I., Bastrakov S., Matveev Z., Efimenko E., Gonoskov A., Meyerov I. (2016) Co-design of a Particle-in-Cell Plasma Simulation Code for Intel Xeon Phi: A First Look at Knights Landing. In: Carretero J. et al. (eds) Algorithms and Architectures for Parallel Processing. ICA3PP 2016. Lecture Notes in Computer Science, vol 10049. Springer, Cham.
  8. Bastrakov S., Meyerov I., Surmin I., Bashinov A., Efimenko E., Gonoskov A., Korzhimanov A., Larin A., Muraviev A., Rozanov A. Performance and Scalability Evaluation of Particle-in-Cell Code PICADOR on CPUs and Intel Xeon Phi Coprocessor. Poster at International Supercomputing Conference (2016)
  9. Мееров И.Б., Бастраков С.И., Сурмин И.А., Гоносков А.А., Ефименко Е.С., Башинов А.В., Коржиманов А.В., Ларин А.В., Муравьев А.А., Розанов А.И., Савичев М.Р. Трехмерное моделирование плазмы методом частиц в ячейках на Intel Xeon Phi: оптимизация вычислений и примеры использования. Вычислительные методы и программирование, 16, 486-500 (2015)
  10. Meyerov I., Surmin I., Efimenko E., Gonoskov A., Malyshev A., Shiryaev M. Particle-in-Cell Plasma Simulation on CPUs, GPUs and Xeon Phi Coprocessors. Poster at International Supercomputing Conference (2014)
  11. Efimenko E., Bastrakov S., Gonoskov A., Meyerov I., Shiryaev M., Surmin I. Particle-in-Cell Plasma Simulation on The Intel Xeon Phi in PICADOR // Invited presentation at the International Conference on Numerical Simulation of Plasmas (23rd ICNSP, Beijing, 2013, September 14-16).

Приложения

  1. Efimenko, E. S., Bashinov, A. V., Gonoskov, A. A., Bastrakov, S. I., Muraviev, A. A., Meyerov, I. B., Kim, A.V., Sergeev, A. M. (2019). Laser-driven plasma pinching in e− e+ cascade. Physical Review E, 99(3), 031201.
  2. Efimenko E., Bashinov A., Bastrakov S., Gonoskov A., Muraviev A., Meyerov I., Kim A., Sergeev A. (2018). Extreme plasma states in laser-governed vacuum breakdownScientific reports8(1), 2329.
  3. Gonoskov A., Bashinov A., Bastrakov S., Efimenko E., Ilderton A., Kim A., Marklund M., Meyerov I., Muraviev A., Sergeev A. Ultrabright GeV Photon Source via Controlled Electromagnetic Cascades in Laser-Dipole Waves. Phys. Rev. X 7, 041003 (2017)
  4. Mackenroth F., Gonoskov A., Marklund M. Chirped-Standing-Wave Acceleration of Ions with Intense Lasers. Physical Review Letters. 117 (10), 104801 (2016)
  5. Mackenroth F., Gonoskov A., Marklund M. Theoretical benchmarking of laser-accelerated ion fluxes by 2D-PIC simulations (в печати).
  6. Муравьев А.А., Бастраков С.И., Башинов А.В., Гоносков А.А., Ефименко Е.С., Ким А.В., Мееров И.Б., Сергеев А.М. Генерация токовых слоев и гигантских квазистатических магнитных полей при ионизации вакуума в экстремально сильных световых полях. Письма в ЖЭТФ. 102 (3), 173-178 (2015)

Решение задач методами машинного обучения

  1. Rodimkov Y., Efimenko E., Volokitin V., Panova E., Polovinkin A., Meyerov I., Gonoskov A. ML-Based Analysis of Particle Distributions in High-Intensity Laser Experiments: Role of Binning Strategy. Entropy, 23(1), 21 (2021).
  2. Gonoskov A., Wallin E., Polovinkin A., Meyerov I. Employing machine learning for theory validation and identification of experimental conditions in laser-plasma physics. Scientific reports, 9(1), 1-15 (2019). 

Все публикации

2021

  1. Muraviev, A., Bashinov, A., Efimenko, E., Volokitin, V., Meyerov, I., Gonoskov, A. (2021). Strategies for particle resampling in PIC simulations. Computer Physics Communications, 262, 107826.
  2. Rodimkov Y., Efimenko E., Volokitin V., Panova E., Polovinkin A., Meyerov I., Gonoskov A. ML-Based Analysis of Particle Distributions in High-Intensity Laser Experiments: Role of Binning Strategy. Entropy, 23(1), 21 (2021).
  3. Muraviev, A., Bashinov, A., Efimenko, E., Volokitin, V., Meyerov, I., Gonoskov, A. (2021). Strategies for particle resampling in PIC simulations. Computer Physics Communications, 262, 107826.
  4. Panova, E.; Volokitin, V.; Efimenko, E.; Ferri, J.; Blackburn, T.; Marklund, M.; Muschet, A.; De Andres Gonzalez, A.; Fischer, P.; Veisz, L.; Meyerov, I.; Gonoskov, A. Optimized Computation of Tight Focusing of Short Pulses Using Mapping to Periodic Space. Appl. Sci. 2021, 11, 956.

2020

  1. Volokitin, V., Bastrakov, S., Bashinov, A., Efimenko, E., Muraviev, A., Gonoskov, A., Meyerov, I. (2020). Optimized routines for event generators in QED-PIC codes. In Journal of Physics: Conference Series (Vol. 1640, No. 1, p. 012015). IOP Publishing.
  2. Панова, Е. А., Волокитин, В. Д., Ефименко, Е. С., Мееров, И. Б., & Гоносков, А. А. (2020). Оптимизация спектрального метода для решения задачи острой фокусировки лазерного импульса. In Математическое моделирование и суперкомпьютерные технологии (pp. 293-298).
  3. Арисова А. Н., Волокитин В. Д., Мееров И. Б. Реализация метода конечных разностей во временной области с использованием вычислений в двойной, одинарной и половинной точности //Суперкомпьютерные дни в России. – 2020. – С. 137-139.

2019

  1. Meyerov, I., Panov, A., Bastrakov, S., Bashinov, A., Efimenko, E., Panova, E., Surmin, I., Volokitin, V., Gonoskov, A. (2019). Exploiting Parallelism on Shared Memory in the QED Particle-in-Cell Code PICADOR with Greedy Load Balancing. In International Conference on Parallel Processing and Applied Mathematics (pp. 335-347). Springer, Cham.
  2. Efimenko, E. S., Bashinov, A. V., Gonoskov, A. A., Bastrakov, S. I., Muraviev, A. A., Meyerov, I. B., Kim, A.V., Sergeev, A. M. (2019). Laser-driven plasma pinching in e− e+ cascade. Physical Review E, 99(3), 031201.
  3. Гоносков, А., Бастраков, С., Башинов, А., Волокитин, В., Ефименко, Е., & Мееров, И. (2019). Алгоритмы прореживания ансамбля макрочастицдля параллельного моделирования лазерной плазмы. In Суперкомпьютерные дни в России (pp. 212-213).
  4. Панова Е., Ефименко Е., Бастраков С., Волокитин В., Гоносков А., Мееров И.  Параллельная реализация псевдоспектрального решателя уравнений Максвелла //Параллельные вычислительные технологии (ПаВТ’2019). – 2019. – С. 374-387.

2018

  1. Gonoskov A., Wallin E., Polovinkin A., Meyerov I. Employing machine learning for theory validation and identification of experimental conditions in laser-plasma physics. Scientific reports, 9(1), 1-15 (2019). 
  2. Efimenko E., Bashinov A., Bastrakov S., Gonoskov A., Muraviev A., Meyerov I., Kim A., Sergeev A. (2018). Extreme plasma states in laser-governed vacuum breakdownScientific reports8(1), 2329.
  3. Larin A. et al. (2018) Load Balancing for Particle-in-Cell Plasma Simulation on Multicore Systems. In: Wyrzykowski R., Dongarra J., Deelman E., Karczewski K. (eds) Parallel Processing and Applied Mathematics. PPAM 2017. Lecture Notes in Computer Science, vol 10777. Springer, Cham.
  4. Волокитин В.Д., Бастраков С.И., Башинов А.В., Гоносков А.А., Ефименко Е.С., Сурмин И.А., Мееров И.Б. Аппроксимация синхротронных функций для ускорения численного моделирования плазмы с учетом эффектов квантовой электродинамики // Суперкомпьютерные дни в России: Труды международной конференции (24-25 сентября 2018 г., г. Москва). М.: Изд-во МГУ, 2018. С. 989-990.

2017

  1. Gonoskov A., Bashinov A., Bastrakov S., Efimenko E., Ilderton A., Kim A., Marklund M., Meyerov I., Muraviev A., Sergeev A. Ultrabright GeV Photon Source via Controlled Electromagnetic Cascades in Laser-Dipole Waves. Phys. Rev. X 7, 041003 (2017)
  2. Bastrakov S., Surmin I., Efimenko E., Gonoskov A., Meyerov I. Performance Aspects of Collocated and Staggered Grids for Particle-in-Cell Plasma Simulation. In: Malyshkin V. (eds) Parallel Computing Technologies. PaCT 2017. Lecture Notes in Computer Science, vol 10421. Springer, Cham (2017)

2016

  1. Meyerov I., Bastrakov S., Surmin I., Bashinov A., Efimenko E., Korzhimanov A., Muraviev A., Gonoskov A. Hybrid CPU + Xeon Phi implementation of the Particle-in-Cell method for plasma simulation. Supercomputing frontiers and innovations,  3 (3), 5-10  (2016)
  2. Surmin I., Bastrakov S., Matveev Z., Efimenko E., Gonoskov A., Meyerov I. (2016) Co-design of a Particle-in-Cell Plasma Simulation Code for Intel Xeon Phi: A First Look at Knights Landing. In: Carretero J. et al. (eds) Algorithms and Architectures for Parallel Processing. ICA3PP 2016. Lecture Notes in Computer Science, vol 10049. Springer, Cham.
  3. Surmin I.A., Bastrakov S.I., Efimenko E.S., Gonoskov A.A., Korzhimanov A.V., Meyerov I.B. Particle-in-Cell laser-plasma simulation on Xeon Phi coprocessors. Computer Physics Communications, 202, 204-210 (2016)

2015

  1. Gonoskov A., Efimenko E., Ilderton A., Marklund M., Meyerov I., Muraviev A., Sergeev A., Surmin I., Wallin E. Extended particle-in-cell schemes for physics in ultrastrong laser fields: Review and developments. Physical review E, 92 (2015)
  2. Мееров И.Б., Бастраков С.И., Сурмин И.А., Гоносков А.А., Ефименко Е.С., Башинов А.В., Коржиманов А.В., Ларин А.В., Муравьев А.А., Розанов А.И., Савичев М.Р. Трехмерное моделирование плазмы методом частиц в ячейках на Intel Xeon Phi: оптимизация вычислений и примеры использования. Вычислительные методы и программирование, 16, 486-500 (2015)
  3. Муравьев А.А., Бастраков С.И., Башинов А.В., Гоносков А.А., Ефименко Е.С., Ким А.В., Мееров И.Б., Сергеев А.М. Генерация токовых слоев и гигантских квазистатических магнитных полей при ионизации вакуума в экстремально сильных световых полях. Письма в ЖЭТФ. 102 (3), 173-178 (2015)
  4. Surmin I., Bashinov A., Efimenko E, Gonoskov A, Meyerov I. Dynamic load balancing based on rectilinear partitioning in Particle-in-Cell plasma simulation. Lecture Notes in Computer Science, 9251, 107-119 (2015)

2014

  1. Сурмин И.А., Бастраков С.И., Гоносков А.А., Ефименко Е.С., Мееров И.Б. Моделирование плазмы методом частиц в ячейках с использованием сопроцессоров Intel Xeon Phi. Вычислительные методы и программирование, 15, 530-536 (2014)
  2. Meyerov I., Surmin I., Efimenko E., Gonoskov A., Malyshev A., Shiryaev M. Particle-in-Cell Plasma Simulation on CPUs, GPUs and Xeon Phi Coprocessors. Lecture Notes in Computer Science. 8488, 513-514 (2014)

2013

  1. Meyerov I., Gergel V., Gonoskov A., Gorshkov A., Efimenko E., Ivanchenko M., Kirillin M., Malova A., Osipov G., Petrov V., Surmin I., Vildemanov A. High performance computing in biomedical applications. Procedia Computer Science. 18, 10-19 (2013)
  2. Бастраков С.И., Мееров И.Б., Сурмин И.А., Гоносков А.А., Ефименко Е.С., Малышев А.С., Ширяев М.А. Динамическая балансировка в коде PICADOR для моделирования плазмы. Вычислительные методы и программирование, 14, 67-74 (2013)
  3. Bastrakov S., Efimenko E., Gonoskov A., Meyerov I., Surmin I. GPU-based Particle-in-Cell Plasma Simulation in PICADOR: Optimization Techniques. Proceedings of The 34th Progress In Electromagnetics Research Symposium (2013)

2012

  1. Bastrakov S., Gonoskov A., Donchenko R., Efimenko E., Malyshev A., Meyerov I., Surmin I. Particle-in-Cell Plasma Simulation on Heterogeneous Cluster Systems. Journal of Computational Science. 3 (6), 474-479 (2012)