$|\vec{r}|$ ist ja nichts anderes als Pythagoras. Kommt jetzt darauf an in welchen Koordinatensystem du befindest. Da ist $|\vec{r}|$ immer jeweils anders. (Nicht nur 2, bzw. 3 Dimensonal sondern auch in Kugel/Torus Koordinaten ist es anders und muss beachtet werden.) 

Um die Kraft zu berechnen wendest du die Ableitungsoperation "grad" an. Man schreibt:

$\nabla\vec{V(\vec{r}})=\vec{F}$. Dieser sog. "Gradient" spuckt dir einen Vektor aus. (Was auch Sinn macht, da der Kraft ja eine Richtung zugeordnet werden kann also auch ein Vektor ist)

In den Komponenten steht jeweils dein Potential was du abgeleitet hast nach den einzelnen Ortskomponenten.

Dein $|\vec{r}|=\sqrt{x^2+y^2}$ musst du also einmal nach x Ableiten ($\frac{\partial\sqrt{x^2+y^2}}{\partial x}$) und einmal genau so nach y. Und das was do dort ausrechnest ist dann deine Kraft

Noch ein Tipp zur Berechnung des Gradienten von Ortsfunktionen. Siehe mein Video!