Почитай про OpenMP. И юзай Sun Studio, он заточен под C++ с многопоточностью и DTrace.