リジェクションウィップは構造が命のトリックです。一手順でもやり方が違うと、うまくストリングが飛ばなかったり、構造的にストリングが掛からない形になったりもします。
念のため、すべての手順が間違っていないかを再確認してみてください。
そしてコツですが……。
リジェクションウィップはヨーヨーを回転方向とは違う方向、自分から見て前後に動かすトリックなのですが、「ヨーヨーばかり動かさない」のがコツだったりします。
ヨーヨーだけを動かすのではなく、ヨーヨーを奥へ動かしながら利き手を手前に引くことでストリングが外れやすくなります。
外れた瞬間に「利き手人差し指を曲げてストリングを軽くホールド」し、そのままプラスチックウィップの要領で外側からストリングを引っ掛けます。
自分の個人的なブログにて動画での解説もしています。よければご覧ください。
http://yoyonews.jp/20100918/4088/