Cuda kernel call - История изменений

Андрей Чусов в 09:08, 22 марта 2019

2019-03-22T09:08:10Z

Alinap95 в 01:16, 27 февраля 2019

2019-02-27T01:16:42Z

← Предыдущая		Версия 11:16, 27 февраля 2019
Строка 41:		Строка 41:
	{{function template paramlist add\|Ind\|Индекс для извлечения элемента из контейнера tplParams}}		{{function template paramlist add\|Ind\|Индекс для извлечения элемента из контейнера tplParams}}
	{{function template paramlist end}}		{{function template paramlist end}}
			{{function paramlist begin}}
			{{function paramlist add\|func\|С функция, заданная со спецификатором __global__, которой делегируется вызов.}}
			{{function paramlist add\|cBlocks\|Число блоков CUDA, которые реализуют выполнение ядра <tt>func</tt>.}}
			{{function paramlist add\|cThreadsPerBlock\|Число графических потоков в одном блоке CUDA, выполняющих ядро <tt>func</tt>.}}
			{{function paramlist add\|cbSharedMemory\|Объем используемой ядром <tt>func</tt> разделяемой памяти.}}
			{{function paramlist add\|stream\|Поток, используемый для вызова ядра <tt>func</tt>.}}
			{{function paramlist add\|args\|Набор аргументов, которые передаются ядру <tt>func</tt> при его вызове. Типы всех аргументов должны удовлетворять требованиям {{cpp_concept\|StandardLayoutType}}, иначе корректное поведение функции [[cuda_kernel_call]] и ядра не гарантируется. При вызове производится их автоматическое копирование в глобальную память текущего устройства CUDA.
			Параметры могут быть 3 типов: kernel_input_parameters_external_t - входной параметр; используется для одностороннего копирования с host на device. kernel_output_parameters_external_t - выходной параметр; используется для одностороннего копирования с device на host. kernel_inout_parameters_external_t - используется для вдустороннего стороннего копирования с device на host и обратно.}}}}
			{{function paramlist end}}
			{{function exceptionlist begin}}
			{{function exceptionlist add\|[[cuda_exception]]\|{{cuda_exception brief}}}}
			{{function exceptionlist end}}
			{{function sa begin}}
			{{function sa add\|[[cuda_stream_synchronize]]\|{{cuda_stream_synchronize brief}}}}
			{{function sa add\|[[cuda_abort_with_error]]\|{{cuda_abort_with_error brief}}}}
			{{function sa end}}
			{{function end}}

Alinap95 в 23:46, 26 февраля 2019

2019-02-26T23:46:10Z

← Предыдущая		Версия 09:46, 27 февраля 2019
Строка 32:		Строка 32:
	</source>		</source>
	с дополнительной инициализацией состояния, используемого реализацией CUDA.		с дополнительной инициализацией состояния, используемого реализацией CUDA.

			Также существует второй вариант вызова ядра - cuda_kernel_call_2:
			{{function begin\|template <class F, class TplParams, std::size_t ... Ind>
			inline auto cuda_kernel_call_2(F func, unsigned cBlocks, unsigned cThreadsPerBlock, std::size_t cbSharedMemory, cudaStream_t stream, TplParams&& tplParams, Chusov::integral_sequence<std::size_t, Ind...>);\|{{cuda_kernel_call brief}}}}
			{{function template paramlist begin}}
			{{function template paramlist add\|F\|Тип С функции, реализующей ядро со спецификатором <tt>__global__</tt>, которому делегируется вызов.}}
			{{function template paramlist add\|TplParams\|Тип аргументов <tt>tplParams</tt>, которые передаются вызываемому ядру CUDA.}}
			{{function template paramlist add\|Ind\|Индекс для извлечения элемента из контейнера tplParams}}
			{{function template paramlist end}}

Андрей Чусов в 06:06, 20 марта 2018

2018-03-20T06:06:31Z

← Предыдущая		Версия 16:06, 20 марта 2018
Строка 14:		Строка 14:
	{{function paramlist add\|args\|Набор аргументов, которые передаются ядру <tt>func</tt> при его вызове. Типы всех аргументов должны удовлетворять требованиям {{cpp_concept\|StandardLayoutType}}, иначе корректное поведение функции [[cuda_kernel_call]] и ядра не гарантируется. При вызове производится их автоматическое копирование в глобальную память текущего устройства CUDA.}}		{{function paramlist add\|args\|Набор аргументов, которые передаются ядру <tt>func</tt> при его вызове. Типы всех аргументов должны удовлетворять требованиям {{cpp_concept\|StandardLayoutType}}, иначе корректное поведение функции [[cuda_kernel_call]] и ядра не гарантируется. При вызове производится их автоматическое копирование в глобальную память текущего устройства CUDA.}}
	{{function paramlist end}}		{{function paramlist end}}
			{{function exceptionlist begin}}
			{{function exceptionlist add\|[[cuda_exception]]\|{{cuda_exception brief}}}}
			{{function exceptionlist end}}
	{{function sa begin}}		{{function sa begin}}
	{{function sa add\|[[cuda_stream_synchronize]]\|{{cuda_stream_synchronize brief}}}}		{{function sa add\|[[cuda_stream_synchronize]]\|{{cuda_stream_synchronize brief}}}}

Андрей Чусов в 06:02, 20 марта 2018

2018-03-20T06:02:28Z

← Предыдущая		Версия 16:02, 20 марта 2018
Строка 28:		Строка 28:
	my_kernel<<<10, 100, 0, cuda_stream.get()>>>(x, y, z);		my_kernel<<<10, 100, 0, cuda_stream.get()>>>(x, y, z);
	</source>		</source>
			с дополнительной инициализацией состояния, используемого реализацией CUDA.

Андрей Чусов в 06:00, 20 марта 2018

2018-03-20T06:00:45Z

← Предыдущая		Версия 16:00, 20 марта 2018
Строка 12:		Строка 12:
	{{function paramlist add\|cbSharedMemory\|Объем используемой ядром <tt>func</tt> разделяемой памяти.}}		{{function paramlist add\|cbSharedMemory\|Объем используемой ядром <tt>func</tt> разделяемой памяти.}}
	{{function paramlist add\|stream\|Поток, используемый для вызова ядра <tt>func</tt>.}}		{{function paramlist add\|stream\|Поток, используемый для вызова ядра <tt>func</tt>.}}
	{{function paramlist add\|args\|Набор аргументов, которые передаются ядру <tt>func</tt> при его вызове. Типы всех аргументов должны удовлетворять требованиям {{cpp_concept\|StandardLayoutType}}, иначе корректное поведение функции [[cuda_kernel_call]] и ядра не гарантируется. При вызове производится их автоматическое копирование~~/перемещение~~ в глобальную память текущего устройства CUDA.}}		{{function paramlist add\|args\|Набор аргументов, которые передаются ядру <tt>func</tt> при его вызове. Типы всех аргументов должны удовлетворять требованиям {{cpp_concept\|StandardLayoutType}}, иначе корректное поведение функции [[cuda_kernel_call]] и ядра не гарантируется. При вызове производится их автоматическое копирование в глобальную память текущего устройства CUDA.}}
	{{function paramlist end}}		{{function paramlist end}}
	{{function sa begin}}		{{function sa begin}}
	{{function sa add\|[[~~cuda_error_info~~]]\|{{~~cuda_error_info~~ brief}}}}		{{function sa add\|[[cuda_stream_synchronize]]\|{{cuda_stream_synchronize brief}}}}
	{{function sa add\|[[cuda_abort_with_error]]\|{{cuda_abort_with_error brief}}}}		{{function sa add\|[[cuda_abort_with_error]]\|{{cuda_abort_with_error brief}}}}
	~~{{function sa add\|[[cuda_stream_synchronize]]\|{{cuda_stream_synchronize brief}}}}~~
	{{function sa end}}		{{function sa end}}
	{{function end}}		{{function end}}
	Установка ошибки на устройстве CUDA имеет эффект для всего устройства - всех ядер, всех потоков stream и всех потоков центрального процессора.

	При вызове на хосте функции [[cuda_stream_synchronize]] при установленном на текущем устройстве CUDA ненулевом коде ошибки производится сброс устройства и генерация исключения [[cuda_user_exception]].

	Для использования функций [[cuda_abort_with_error]] и [[cuda_stream_synchronize]] вызов ядра CUDA должен быть выполнен с помощью [[cuda_kernel_call]].

	Если при одновременном выполнении другого ядра kernel на том же устройстве CUDA производится вызов функции [[cuda_abort_with_error]] (~~в момент времени после оригинального вызова [[cuda_abort_with_error]] и до вызова [[cuda_stream_synchronize]]~~) , ~~его эффект игнорируется~~.		Вызов
			<source lang="cu">
			cuda_kernel_call(my_kernel, 10, 100, 0, cuda_stream().get(), x, y, z);
			</source>
			аналогичен вызову
			<source lang="cu">
			my_kernel<<<10, 100, 0, cuda_stream.get()>>>(x, y, z);
			</source>

Андрей Чусов: Новая страница: «{{DISPLAYTITLE:cuda_kernel_call}} {{function begin|template void cuda_kernel_call(F func, unsigned cBlocks, unsigned cThreadsPerBlock, std…»

2018-03-20T05:43:42Z

Новая страница: «{{DISPLAYTITLE:cuda_kernel_call}} {{function begin|template <class F, class...Args> void cuda_kernel_call(F func, unsigned cBlocks, unsigned cThreadsPerBlock, std…»

Новая страница

{{DISPLAYTITLE:cuda_kernel_call}}
{{function begin|template <class F, class...Args>
void cuda_kernel_call(F func, unsigned cBlocks, unsigned cThreadsPerBlock, std::size_t cbSharedMemory, cudaStream_t stream, Args&&...args);|{{cuda_kernel_call brief}}}}
{{function template paramlist begin}}
{{function template paramlist add|F|Тип С функции, реализующей ядро со спецификатором <tt>__global__</tt>, которому делегируется вызов.}}
{{function template paramlist add|Args|Типы аргументов <tt>args</tt>, которые передаются вызываемому ядру CUDA.}}
{{function template paramlist end}}
{{function paramlist begin}}
{{function paramlist add|func|С функция, заданная со спецификатором __global__, которой делегируется вызов.}}
{{function paramlist add|cBlocks|Число блоков CUDA, которые реализуют выполнение ядра <tt>func</tt>.}}
{{function paramlist add|cThreadsPerBlock|Число графических потоков в одном блоке CUDA, выполняющих ядро <tt>func</tt>.}}
{{function paramlist add|cbSharedMemory|Объем используемой ядром <tt>func</tt> разделяемой памяти.}}
{{function paramlist add|stream|Поток, используемый для вызова ядра <tt>func</tt>.}}
{{function paramlist add|args|Набор аргументов, которые передаются ядру <tt>func</tt> при его вызове. Типы всех аргументов должны удовлетворять требованиям {{cpp_concept|StandardLayoutType}}, иначе корректное поведение функции [[cuda_kernel_call]] и ядра не гарантируется. При вызове производится их автоматическое копирование/перемещение в глобальную память текущего устройства CUDA.}}
{{function paramlist end}}
{{function sa begin}}
{{function sa add|[[cuda_error_info]]|{{cuda_error_info brief}}}}
{{function sa add|[[cuda_abort_with_error]]|{{cuda_abort_with_error brief}}}}
{{function sa add|[[cuda_stream_synchronize]]|{{cuda_stream_synchronize brief}}}}
{{function sa end}}
{{function end}}
Установка ошибки на устройстве CUDA имеет эффект для всего устройства - всех ядер, всех потоков stream и всех потоков центрального процессора.

При вызове на хосте функции [[cuda_stream_synchronize]] при установленном на текущем устройстве CUDA ненулевом коде ошибки производится сброс устройства и генерация исключения [[cuda_user_exception]].

Для использования функций [[cuda_abort_with_error]] и [[cuda_stream_synchronize]] вызов ядра CUDA должен быть выполнен с помощью [[cuda_kernel_call]].

Если при одновременном выполнении другого ядра kernel на том же устройстве CUDA производится вызов функции [[cuda_abort_with_error]] (в момент времени после оригинального вызова [[cuda_abort_with_error]] и до вызова [[cuda_stream_synchronize]]) , его эффект игнорируется.

← Предыдущая		Версия 19:08, 22 марта 2019
Строка 35:		Строка 35:
	Также существует второй вариант вызова ядра - cuda_kernel_call_2:		Также существует второй вариант вызова ядра - cuda_kernel_call_2:
	{{function begin\|template <class F, class TplParams, std::size_t ... Ind>		{{function begin\|template <class F, class TplParams, std::size_t ... Ind>
	inline auto cuda_kernel_call_2(F func, unsigned cBlocks, unsigned cThreadsPerBlock, std::size_t cbSharedMemory, cudaStream_t stream, TplParams&& tplParams, Chusov::integral_sequence<std::size_t, Ind...>);\|{{~~cuda_kernel_call~~ brief}}}}		inline auto cuda_kernel_call_2(F func, unsigned cBlocks, unsigned cThreadsPerBlock, std::size_t cbSharedMemory, cudaStream_t stream, TplParams&& tplParams, Chusov::integral_sequence<std::size_t, Ind...>);\|{{cuda_kernel_call_2 brief}}}}
	{{function template paramlist begin}}		{{function template paramlist begin}}
	{{function template paramlist add\|F\|Тип С функции, реализующей ядро со спецификатором <tt>__global__</tt>, которому делегируется вызов.}}		{{function template paramlist add\|F\|Тип С функции, реализующей ядро со спецификатором <tt>__global__</tt>, которому делегируется вызов.}}
	{{function template paramlist add\|TplParams\|Тип аргументов <tt>tplParams</tt>, которые передаются вызываемому ядру CUDA.}}		{{function template paramlist add\|TplParams\|Тип аргументов <tt>tplParams</tt>, которые передаются вызываемому ядру CUDA.}}
	{{function template paramlist add\|Ind\|Индекс для извлечения элемента из контейнера tplParams}}		{{function template paramlist add\|Ind\|Индекс для извлечения элемента из контейнера tplParams.}}
	{{function template paramlist end}}		{{function template paramlist end}}
	{{function paramlist begin}}		{{function paramlist begin}}
Строка 48:		Строка 48:
	{{function paramlist add\|stream\|Поток, используемый для вызова ядра <tt>func</tt>.}}		{{function paramlist add\|stream\|Поток, используемый для вызова ядра <tt>func</tt>.}}
	{{function paramlist add\|args\|Набор аргументов, которые передаются ядру <tt>func</tt> при его вызове. Типы всех аргументов должны удовлетворять требованиям {{cpp_concept\|StandardLayoutType}}, иначе корректное поведение функции [[cuda_kernel_call]] и ядра не гарантируется. При вызове производится их автоматическое копирование в глобальную память текущего устройства CUDA.		{{function paramlist add\|args\|Набор аргументов, которые передаются ядру <tt>func</tt> при его вызове. Типы всех аргументов должны удовлетворять требованиям {{cpp_concept\|StandardLayoutType}}, иначе корректное поведение функции [[cuda_kernel_call]] и ядра не гарантируется. При вызове производится их автоматическое копирование в глобальную память текущего устройства CUDA.
	Параметры могут быть 3 типов: kernel_input_parameters_external_t - входной параметр; используется для одностороннего копирования с host на device. kernel_output_parameters_external_t - выходной параметр; используется для одностороннего копирования с device на host. kernel_inout_parameters_external_t - используется для вдустороннего стороннего копирования с device на host и обратно.}}}}		Параметры могут быть 3 типов: kernel_input_parameters_external_t - входной параметр; используется для одностороннего копирования с host на device. kernel_output_parameters_external_t - выходной параметр; используется для одностороннего копирования с device на host. kernel_inout_parameters_external_t - используется для вдустороннего стороннего копирования с device на host и обратно.}}
	{{function paramlist end}}		{{function paramlist end}}
	{{function exceptionlist begin}}		{{function exceptionlist begin}}