Довольно сложно раскрутить форум на сайте, намного сложнее чем сделать сам сайт и продвинуть его в поисковых системах.
Хочу поделить своим опытом, и предостеречь от возможных ошибок обычных при этом.

Форум и зачем он нужен

Форум – это часть сайта, которая живет отдельной жизнью. Вы получите с него:

1. Постоянных посетителей – «ядро» сайта.
2. Уникальный контент, который пишут пользователи.
3. Внешние «естественные» ссылки на других ресурсах, которые будут ставить на этот контент.
4. НЧ и СЧ запросы с поисковиков.
5. Дополнительное удобство для посетителей, общение и соответственно аудитория постоянная сайта.

Всё это вы получите бесплатно.
Создание форума

Лучше воспользоваться платным движком. Для защиты от спама поставьте на движок хаки. Я взял готовый на известном движке vBulletin.
Для начала, нужно правильно создать список форумов/разделов.
Создайте для начала на форуме самые важнее разделы по Вашему мнению.
Список форумов может быть и больше страницы, но надо доходить до этого постепенно.
Правильно делать следующим образом – до 3-5 разделов в начале. Например у вас сайт на тематику заработка в интернете:

* Главный про заработок
* Советы
* Курилка за бруствером
* О сайте и форуме, раздел для вопросов админам

По мере наполнения форумов их можно разделять на подразделы исходя из потребностей пользователей на сайте. Делайте подразделы в одну строку, хотя возможны варианты.
Наполнение форума в начале жизни

По старинке «метод админа» самый распространенный, когда сам админ пишет в форум, отвечает всем желающим и дело двигается
Метод фантомов, когда админ заводит несколько аккуантов и начинает между ними «общаться» и «метод воровства», когда куча постов форума просто перетаскиваются/воруются с уже существующего где то в сети чужого сайта. (последний метод конечно черный и не честный, но посты со временем можно и убить.
Лучше всего раскручивать форум пригласив туда друзей/знакомых и инициировав первоначальную беседу, а «фантомами» и воровством пусть занимаются школьники.

Ну и самый надёжный заказать постинг на форуме, постеры будут писать на форуме и общаться, добавляя уникальным контентом форум, не дёшево, зато надёжно

Привлечение пользователей с сайта на форум

Ссылки на форум должны стоять везде, где пользователь может их их увидеть и везде где он может захотеть написать. На первой странице сайта очень неплохо разместить последние сообщения в форуме для подогревания интереса посетителей, в разделах - последние сообщения соответствующих разделов форума. На главной странице хорошо выводить последние темы с форума и позволять пользователям комментировать новости и т.д.
Удержание пользователей на форуме

Многие люди оставляют аську при регистрации. Пользуйтесь этим не стесняйтесь. Заводите знакомства и переписываетесь по аське с интересными людьми, шлите им ссылки на появившиеся темы, которые им будут интересны (если они сами эту тему не видели или давно не заходили на сайт. Если на вопрос на форуме никто долго не отвечает – не поленитесь, ищите ответ на вопрос сами и отвечайте в теме, это помогает.
Итог

Вот, люди уже начинают общаться в форуме, писать и общаться.
Надо делать общение на форуме максимально удобным. Найти удобные патчи (хаки) для форума для добавления новых, удобных функций. Это может быть «последние темы на форуме», «лучшие авторы», «сообщества» и т.д. Облегчайте пользователям жизнь на форуме. Разрешите им размещать фотографии и создавать сообщества, можно даже разрешить блогги, но я так не делаю, это может их слишком увлечь.
Особо не увлекайтесь.
Проводите на форуме конкурсы, например «лучший рассказ», назначьте за это премию, по результату общего голосования будет выбран победитель, и голосовать могут только пользователи имеющие не менее десяти постов на форуме, поверьте эффект себя окупит.
В заключении могу сказать, что форум очень хорошая и полезная вещь для сайта. Единственное, трудное и муторное.
В любом случае, хочется надеяться что мой опыт и эта статья Вам поможет.