Сам CUDA Toolkit: https://developer.nvidia.com/cuda-downloads - в последней версии сэмплы (бывший "GPU Computing SDK") идут в составе тулкита.

Вопрос-ответ на Stackoverflow насчёт настройки правил сборки для cuda-файлов в Visual Studio: http://stackoverflow.com/questions/3778799/how-do-i-start-a-cuda-app-in-visual-studio-2010

Советы по подсветке синтаксиса и intellisense: http://www.ademiller.com/blogs/tech/2010/10/visual-studio-2010-adding-intellisense-support-for-cuda-c/

Напоминаю, что задание на лабораторную работу №1 состоит в том, чтобы реализовать один и тот же алгоритм на CPU и GPU, замерив производительность обоих вариантов.

На всякий случай, несколько алгоритмов, которые можно реализовать в рамках работы:

попроще:

• любые блочные шифры, base64-кодировка, алгоритм Луна
• обработка изображений и сигналов: медианный фильтр, оператор Собеля, фильтр Гаусса, любой другой оконный фильтр

посложнее:

• кластеризация: k-means
• для любителей головоломок - контрольные суммы и хэши (CRC32, MD5, SHA-2)

Про все алгоритмы, думаю, можно найти информацию в Сети - в той же Википедии описание должно быть.