рдпрд╣ рд╣реЙрд░реЛрд╡реЛрдб рдирд╛рдо рдХрд╛ рд╡рд┐рдВрдбреЛрдЬ рдРрдк рд╣реИ рдЬрд┐рд╕рдХреА рдирд╡реАрдирддрдо рд░рд┐рд▓реАрдЬ рдХреЛ рд╕реНрдкрд╛рд░реНрдХ рдЯреЙрд░реНрдЪ рдПрд╕реНрдЯрд┐рдореЗрдЯрд░ рдореЗрдВ рдХрд╕реНрдЯрдо рдбреЗрдЯрд╛ рд▓реЛрдбрд░ рдХреЗ рд░реВрдк рдореЗрдВ рдбрд╛рдЙрдирд▓реЛрдб рдХрд┐рдпрд╛ рдЬрд╛ рд╕рдХрддрд╛ рд╣реИ, рдЕрдзрд┐рдХ рдореЙрдбрд▓ рд╕рдорд╛рдирд╛рдВрддрд░рд╡рд╛рдж рдорд┐рдирдЯ рдХреЗрд░рд╛рд╕, рдмреЗрд╣рддрд░ рд╕рднреА рдПрдХрддреНрд░реАрдХрд░рдг рдкреНрд░рджрд░реНрд╢рди, рдирд╡реАрдирддрдо рдкрд╛рдпрдЯреЛрд░рдЪрдВрдж рдЯреЗрдВрд╕рд░рдлреНрд▓реЛрд╡рд░реНрдЬрди.рдЬрд╝рд┐рдк рдХреЗ рд▓рд┐рдП рдлрд┐рдХреНрд╕ред рдЗрд╕реЗ рд╡рд░реНрдХрд╕реНрдЯреЗрд╢рди рдХреЗ рд▓рд┐рдП рдореБрдлреНрдд рд╣реЛрд╕реНрдЯрд┐рдВрдЧ рдкреНрд░рджрд╛рддрд╛ рдСрдирд╡рд░реНрдХреНрд╕ рдореЗрдВ рдСрдирд▓рд╛рдЗрди рдЪрд▓рд╛рдпрд╛ рдЬрд╛ рд╕рдХрддрд╛ рд╣реИред
Horovod рдирд╛рдо рдХреЗ рдЗрд╕ рдРрдк рдХреЛ OnWorks рдХреЗ рд╕рд╛рде рдореБрдлреНрдд рдореЗрдВ рдбрд╛рдЙрдирд▓реЛрдб рдХрд░реЗрдВ рдФрд░ рдЪрд▓рд╛рдПрдВред
рдЗрд╕ рдРрдк рдХреЛ рдЪрд▓рд╛рдиреЗ рдХреЗ рд▓рд┐рдП рдЗрди рдирд┐рд░реНрджреЗрд╢реЛрдВ рдХрд╛ рдкрд╛рд▓рди рдХрд░реЗрдВ:
- 1. рдЗрд╕ рдПрдкреНрд▓рд┐рдХреЗрд╢рди рдХреЛ рдЕрдкрдиреЗ рдкреАрд╕реА рдореЗрдВ рдбрд╛рдЙрдирд▓реЛрдб рдХрд░реЗрдВред
- 2. рд╣рдорд╛рд░реЗ рдлрд╝рд╛рдЗрд▓ рдкреНрд░рдмрдВрдзрдХ рдореЗрдВ https://www.onworks.net/myfiles.php?username=XXXXX рдЙрд╕ рдЙрдкрдпреЛрдЧрдХрд░реНрддрд╛ рдирд╛рдо рдХреЗ рд╕рд╛рде рджрд░реНрдЬ рдХрд░реЗрдВ рдЬреЛ рдЖрдк рдЪрд╛рд╣рддреЗ рд╣реИрдВред
- 3. рдЗрд╕ рдПрдкреНрд▓рд┐рдХреЗрд╢рди рдХреЛ рдРрд╕реЗ рдлрд╛рдЗрд▓ рдореИрдиреЗрдЬрд░ рдореЗрдВ рдЕрдкрд▓реЛрдб рдХрд░реЗрдВред
- 4. рдЗрд╕ рд╡реЗрдмрд╕рд╛рдЗрдЯ рд╕реЗ рдХреЛрдИ рднреА рдУрдПрд╕ рдСрдирд╡рд░реНрдХреНрд╕ рдСрдирд▓рд╛рдЗрди рдПрдореБрд▓реЗрдЯрд░ рд╢реБрд░реВ рдХрд░реЗрдВ, рд▓реЗрдХрд┐рди рдмреЗрд╣рддрд░ рд╡рд┐рдВрдбреЛрдЬ рдСрдирд▓рд╛рдЗрди рдПрдореБрд▓реЗрдЯрд░ред
- 5. рдСрдирд╡рд░реНрдХреНрд╕ рд╡рд┐рдВрдбреЛрдЬ рдУрдПрд╕ рд╕реЗ рдЖрдкрдиреЗ рдЕрднреА рд╢реБрд░реБрдЖрдд рдХреА рд╣реИ, рд╣рдорд╛рд░реЗ рдлрд╛рдЗрд▓ рдореИрдиреЗрдЬрд░ рдХреЛ https://www.onworks.net/myfiles.php?username=XXXXX рдЙрд╕ рдпреВрдЬрд░рдиреЗрдо рдХреЗ рд╕рд╛рде рдЬрд╛рдПрдВ рдЬреЛ рдЖрдк рдЪрд╛рд╣рддреЗ рд╣реИрдВред
- 6. рдПрдкреНрд▓рд┐рдХреЗрд╢рди рдбрд╛рдЙрдирд▓реЛрдб рдХрд░реЗрдВ рдФрд░ рдЗрд╕реЗ рдЗрдВрд╕реНрдЯреЙрд▓ рдХрд░реЗрдВред
- 7. рдЕрдкрдиреЗ Linux рд╡рд┐рддрд░рдг рд╕реЙрдлрд╝реНрдЯрд╡реЗрдпрд░ рд░рд┐рдкреЙрдЬрд┐рдЯрд░реА рд╕реЗ рд╡рд╛рдЗрди рдбрд╛рдЙрдирд▓реЛрдб рдХрд░реЗрдВред рдПрдХ рдмрд╛рд░ рдЗрдВрд╕реНрдЯреЙрд▓ рд╣реЛ рдЬрд╛рдиреЗ рдкрд░, рдЖрдк рдРрдк рдХреЛ рд╡рд╛рдЗрди рдХреЗ рд╕рд╛рде рдЪрд▓рд╛рдиреЗ рдХреЗ рд▓рд┐рдП рдбрдмрд▓-рдХреНрд▓рд┐рдХ рдХрд░ рд╕рдХрддреЗ рд╣реИрдВред рдЖрдк PlayOnLinux рдХреЛ рднреА рдЖрдЬрд╝рдорд╛ рд╕рдХрддреЗ рд╣реИрдВ, рдЬреЛ рд╡рд╛рдЗрди рдкрд░ рдПрдХ рдлреИрдВрд╕реА рдЗрдВрдЯрд░рдлрд╝реЗрд╕ рд╣реИ рдЬреЛ рдЖрдкрдХреЛ рд▓реЛрдХрдкреНрд░рд┐рдп рд╡рд┐рдВрдбреЛрдЬрд╝ рдкреНрд░реЛрдЧреНрд░рд╛рдо рдФрд░ рдЧреЗрдо рдЗрдВрд╕реНрдЯреЙрд▓ рдХрд░рдиреЗ рдореЗрдВ рдорджрдж рдХрд░реЗрдЧрд╛ред
рд╡рд╛рдЗрди рд▓рд┐рдирдХреНрд╕ рдкрд░ рд╡рд┐рдВрдбреЛрдЬ рд╕реЙрдлреНрдЯрд╡реЗрдпрд░ рдЪрд▓рд╛рдиреЗ рдХрд╛ рдПрдХ рддрд░реАрдХрд╛ рд╣реИ, рд▓реЗрдХрд┐рди рд╡рд┐рдВрдбреЛрдЬ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рдирд╣реАрдВ рд╣реИред рд╡рд╛рдЗрди рдПрдХ рдУрдкрди-рд╕реЛрд░реНрд╕ рд╡рд┐рдВрдбреЛрдЬ рд╕рдВрдЧрддрддрд╛ рдкрд░рдд рд╣реИ рдЬреЛ рдХрд┐рд╕реА рднреА рд▓рд┐рдирдХреНрд╕ рдбреЗрд╕реНрдХрдЯреЙрдк рдкрд░ рд╕реАрдзреЗ рд╡рд┐рдВрдбреЛрдЬ рдкреНрд░реЛрдЧреНрд░рд╛рдо рдЪрд▓рд╛ рд╕рдХрддреА рд╣реИред рдЕрдирд┐рд╡рд╛рд░реНрдп рд░реВрдк рд╕реЗ, рд╡рд╛рдЗрди рдЦрд░реЛрдВрдЪ рд╕реЗ рдкрд░реНрдпрд╛рдкреНрдд рд╡рд┐рдВрдбреЛрдЬрд╝ рдХреЛ рдлрд┐рд░ рд╕реЗ рд▓рд╛рдЧреВ рдХрд░рдиреЗ рдХреА рдХреЛрд╢рд┐рд╢ рдХрд░ рд░рд╣рд╛ рд╣реИ рддрд╛рдХрд┐ рд╡рд╣ рдЙрди рд╕рднреА рд╡рд┐рдВрдбреЛрдЬрд╝ рдЕрдиреБрдкреНрд░рдпреЛрдЧреЛрдВ рдХреЛ рд╡рд╛рд╕реНрддрд╡ рдореЗрдВ рд╡рд┐рдВрдбреЛрдЬрд╝ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рдХреЗ рдмрд┐рдирд╛ рдЪрд▓рд╛ рд╕рдХреЗред
рд╕реНрдХреНрд░реАрдирд╢реЙрдЯ
Ad
horovod
рд╡рд░реНрдгрди
рд╣реЛрд░реЛрд╡реЛрдб рдореВрд▓ рд░реВрдк рд╕реЗ рдЙрдмреЗрд░ рджреНрд╡рд╛рд░рд╛ рд╡рд┐рдХрд╕рд┐рдд рдХрд┐рдпрд╛ рдЧрдпрд╛ рдерд╛ рддрд╛рдХрд┐ рд╡рд┐рддрд░рд┐рдд рдЧрд╣рд░реА рд╢рд┐рдХреНрд╖рд╛ рдХреЛ рддреЗрдЬреА рд╕реЗ рдФрд░ рдЙрдкрдпреЛрдЧ рдореЗрдВ рдЖрд╕рд╛рди рдмрдирд╛рдпрд╛ рдЬрд╛ рд╕рдХреЗ, рдореЙрдбрд▓ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рд╕рдордп рдХреЛ рджрд┐рдиреЛрдВ рдФрд░ рд╣рдлреНрддреЛрдВ рд╕реЗ рдШрдЯрд╛рдХрд░ рдШрдВрдЯреЛрдВ рдФрд░ рдорд┐рдирдЯреЛрдВ рдореЗрдВ рд▓рд╛рдпрд╛ рдЬрд╛ рд╕рдХреЗред рд╣реЛрд░реЛрд╡реЛрдб рдХреЗ рд╕рд╛рде, рдПрдХ рдореМрдЬреВрджрд╛ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рд╕реНрдХреНрд░рд┐рдкреНрдЯ рдХреЛ рдкрд╛рдпрдерди рдХреЛрдб рдХреА рдХреБрдЫ рд╣реА рдкрдВрдХреНрддрд┐рдпреЛрдВ рдореЗрдВ рд╕реИрдХрдбрд╝реЛрдВ рдЬреАрдкреАрдпреВ рдкрд░ рдЪрд▓рд╛рдиреЗ рдХреЗ рд▓рд┐рдП рдмрдврд╝рд╛рдпрд╛ рдЬрд╛ рд╕рдХрддрд╛ рд╣реИред рд╣реЙрд░реЛрд╡реЛрдб рдХреЛ рдСрди-рдкреНрд░рд┐рдорд╛рдЗрд╕реЗрд╕ рд╕реНрдерд╛рдкрд┐рдд рдХрд┐рдпрд╛ рдЬрд╛ рд╕рдХрддрд╛ рд╣реИ рдпрд╛ рдХреНрд▓рд╛рдЙрдб рдкреНрд▓реЗрдЯрдлреЙрд░реНрдо рдореЗрдВ рдЖрдЙрдЯ-рдСрдл-рдж-рдмреЙрдХреНрд╕ рдЪрд▓рд╛рдпрд╛ рдЬрд╛ рд╕рдХрддрд╛ рд╣реИ, рдЬрд┐рд╕рдореЗрдВ AWS, Azure рдФрд░ Databricks рд╢рд╛рдорд┐рд▓ рд╣реИрдВред рд╣реЛрд░реЛрд╡реЛрдб рдЕрддрд┐рд░рд┐рдХреНрдд рд░реВрдк рд╕реЗ рдЕрдкрд╛рдЪреЗ рд╕реНрдкрд╛рд░реНрдХ рдХреЗ рд╢реАрд░реНрд╖ рдкрд░ рдЪрд▓ рд╕рдХрддрд╛ рд╣реИ, рдЬрд┐рд╕рд╕реЗ рдбреЗрдЯрд╛ рдкреНрд░реЛрд╕реЗрд╕рд┐рдВрдЧ рдФрд░ рдореЙрдбрд▓ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рдХреЛ рдПрдХ рд╣реА рдкрд╛рдЗрдкрд▓рд╛рдЗрди рдореЗрдВ рдПрдХреАрдХреГрдд рдХрд░рдирд╛ рд╕рдВрднрд╡ рд╣реЛ рдЬрд╛рддрд╛ рд╣реИред рдПрдХ рдмрд╛рд░ рд╣реЛрд░реЛрд╡реЛрдб рдХреЛ рдХреЙрдиреНрдлрд╝рд┐рдЧрд░ рдХрд░рдиреЗ рдХреЗ рдмрд╛рдж, рдЙрд╕реА рдмреБрдирд┐рдпрд╛рджреА рдврд╛рдВрдЪреЗ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд┐рд╕реА рднреА рдврд╛рдВрдЪреЗ рдХреЗ рд╕рд╛рде рдореЙрдбрд▓ рдХреЛ рдкреНрд░рд╢рд┐рдХреНрд╖рд┐рдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдХрд┐рдпрд╛ рдЬрд╛ рд╕рдХрддрд╛ рд╣реИ, рдЬрд┐рд╕рд╕реЗ рдЯреЗрдиреНрд╕рд░рдлреНрд▓реЛ, рдкрд╛рдпрдЯреЙрд░реНрдЪ, рдПрдордПрдХреНрд╕рдиреЗрдЯ рдФрд░ рднрд╡рд┐рд╖реНрдп рдХреЗ рдврд╛рдВрдЪреЗ рдХреЗ рдмреАрдЪ рд╕реНрд╡рд┐рдЪ рдХрд░рдирд╛ рдЖрд╕рд╛рди рд╣реЛ рдЬрд╛рддрд╛ рд╣реИ рдХреНрдпреЛрдВрдХрд┐ рдорд╢реАрди рд▓рд░реНрдирд┐рдВрдЧ рдЯреЗрдХ рд╕реНрдЯреИрдХ рдХрд╛ рд╡рд┐рдХрд╛рд╕ рдЬрд╛рд░реА рд░рд╣рддрд╛ рд╣реИред рдкрд╛рдпрдерди рдХреЛрдб рдХреА рдХреБрдЫ рд╣реА рдкрдВрдХреНрддрд┐рдпреЛрдВ рдХреЗ рд╕рд╛рде рдЕрдкрдиреЗ рдореЙрдбрд▓ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рдХреЛ рдмрдврд╝рд╛рдирд╛ рд╢реБрд░реВ рдХрд░реЗрдВред 90% рд╕реНрдХреЗрд▓рд┐рдВрдЧ рджрдХреНрд╖рддрд╛ рдХреЗ рд╕рд╛рде рд╕реИрдХрдбрд╝реЛрдВ рдЬреАрдкреАрдпреВ рддрдХ рд╕реНрдХреЗрд▓ рдХрд░реЗрдВред
рд╡рд┐рд╢реЗрд╖рддрд╛рдПрдВ
- рд╡рд┐рддрд░рд┐рдд рдЧрд╣рди рд╢рд┐рдХреНрд╖рдг рдкреНрд░рд╢рд┐рдХреНрд╖рдг рдврд╛рдВрдЪрд╛
- TensorFlow, Keras, PyTorch рдФрд░ Apache MXNet рдХреЗ рд▓рд┐рдП
- 90% рд╕реНрдХреЗрд▓рд┐рдВрдЧ рджрдХреНрд╖рддрд╛ рдХреЗ рд╕рд╛рде рд╕реИрдХрдбрд╝реЛрдВ рдЬреАрдкреАрдпреВ рддрдХ рд╕реНрдХреЗрд▓ рдХрд░реЗрдВ
- рдкрд╛рдпрдерди рдХреЛрдб рдХреА рдХреБрдЫ рд╣реА рдкрдВрдХреНрддрд┐рдпреЛрдВ рдХреЗ рд╕рд╛рде рдЕрдкрдиреЗ рдореЙрдбрд▓ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рдХреЛ рдмрдврд╝рд╛рдирд╛ рд╢реБрд░реВ рдХрд░реЗрдВ
- TensorFlow, Keras, PyTorch рдФрд░ MXNet рдХреЗ рд▓рд┐рдП рд╕рдорд╛рди рдЪрд▓рддрд╛ рд╣реИ
- рдЖрдзрд╛рд░ рдкрд░, рдХреНрд▓рд╛рдЙрдб рдореЗрдВ рдФрд░ рдЕрдкрд╛рдЪреЗ рд╕реНрдкрд╛рд░реНрдХ рдкрд░
рдкреНрд░реЛрдЧреНрд░рд╛рдорд┐рдВрдЧ рднрд╛рд╖рд╛
рдЕрдЬрдЧрд░
рд╢реНрд░реЗрдгрд┐рдпрд╛рдБ
рдпрд╣ рдПрдХ рдРрд╕рд╛ рдПрдкреНрд▓рд┐рдХреЗрд╢рди рд╣реИ рдЬрд┐рд╕реЗ https://sourceforge.net/projects/horovod.mirror/ рд╕реЗ рднреА рдкреНрд░рд╛рдкреНрдд рдХрд┐рдпрд╛ рдЬрд╛ рд╕рдХрддрд╛ рд╣реИред рдЗрд╕реЗ рд╣рдорд╛рд░реЗ рдирд┐рдГрд╢реБрд▓реНрдХ рдСрдкрд░реЗрдЯрд┐рд╡ рд╕рд┐рд╕реНрдЯрдо рдореЗрдВ рд╕реЗ рдХрд┐рд╕реА рдПрдХ рд╕реЗ рдЖрд╕рд╛рди рддрд░реАрдХреЗ рд╕реЗ рдСрдирд▓рд╛рдЗрди рдЪрд▓рд╛рдиреЗ рдХреЗ рд▓рд┐рдП рдСрдирд╡рд░реНрдХреНрд╕ рдореЗрдВ рд╣реЛрд╕реНрдЯ рдХрд┐рдпрд╛ рдЧрдпрд╛ рд╣реИред