Polly está basada en un hecho real, que ocurrió en Tacoma en Junio de 1987. Una adolescente de 14 años volvía a su casa después de un concierto de punk en el Community World Theatre cuando fue raptada por un hombre llamado Gerald Friend. Este tipo le ató los pies a una polea, en el techo de su casa rodante, de forma de que quedase dada vuelta, y la violó y torturó con un látigo de cuero, una gillette, cera caliente y un soplete (blowtorch). Ella pudo escapar del auto cuando él se detuvo a cargar nafta. Gerald Friend fue atrapado y condenado, y lo más probable es que pase el resto de su vida en la cárcel.
Lo único agragado por Kurt en la letra de la canción es que la chica logra escapar engañando al violador y haciéndole pensar que disfruta lo que le está haciendo.