[chromium] Set opaque flag for ImageLayerChromium
[WebKit-https.git] / Source / WebCore / platform / KURL.cpp
1 /*
2  * Copyright (C) 2004, 2007, 2008, 2011 Apple Inc. All rights reserved.
3  *
4  * Redistribution and use in source and binary forms, with or without
5  * modification, are permitted provided that the following conditions
6  * are met:
7  * 1. Redistributions of source code must retain the above copyright
8  *    notice, this list of conditions and the following disclaimer.
9  * 2. Redistributions in binary form must reproduce the above copyright
10  *    notice, this list of conditions and the following disclaimer in the
11  *    documentation and/or other materials provided with the distribution.
12  *
13  * THIS SOFTWARE IS PROVIDED BY APPLE INC. ``AS IS'' AND ANY
14  * EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
15  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
16  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL APPLE COMPUTER, INC. OR
17  * CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL,
18  * EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
19  * PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR
20  * PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY
21  * OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
22  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
23  * OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE. 
24  */
25
26 #include "config.h"
27 #include "KURL.h"
28
29 #include "DecodeEscapeSequences.h"
30 #include "TextEncoding.h"
31 #include <stdio.h>
32 #include <wtf/HashMap.h>
33 #include <wtf/HexNumber.h>
34 #include <wtf/StdLibExtras.h>
35 #include <wtf/text/CString.h>
36 #include <wtf/text/StringBuilder.h>
37 #include <wtf/text/StringHash.h>
38
39 #if USE(ICU_UNICODE)
40 #include <unicode/uidna.h>
41 #elif USE(QT4_UNICODE)
42 #include <QUrl>
43 #elif USE(GLIB_UNICODE)
44 #include <glib.h>
45 #include "GOwnPtr.h"
46 #endif
47
48 // FIXME: This file makes too much use of the + operator on String.
49 // We either have to optimize that operator so it doesn't involve
50 // so many allocations, or change this to use StringBuffer instead.
51
52 using namespace std;
53 using namespace WTF;
54
55 namespace WebCore {
56
57 typedef Vector<char, 512> CharBuffer;
58 typedef Vector<UChar, 512> UCharBuffer;
59
60 static const unsigned maximumValidPortNumber = 0xFFFE;
61 static const unsigned invalidPortNumber = 0xFFFF;
62
63 static inline bool isLetterMatchIgnoringCase(UChar character, char lowercaseLetter)
64 {
65     ASSERT(isASCIILower(lowercaseLetter));
66     return (character | 0x20) == lowercaseLetter;
67 }
68
69 #if !USE(GOOGLEURL)
70
71 static inline bool isLetterMatchIgnoringCase(char character, char lowercaseLetter)
72 {
73     ASSERT(isASCIILower(lowercaseLetter));
74     return (character | 0x20) == lowercaseLetter;
75 }
76
77 enum URLCharacterClasses {
78     // alpha 
79     SchemeFirstChar = 1 << 0,
80
81     // ( alpha | digit | "+" | "-" | "." )
82     SchemeChar = 1 << 1,
83
84     // mark        = "-" | "_" | "." | "!" | "~" | "*" | "'" | "(" | ")"
85     // unreserved  = alphanum | mark
86     // ( unreserved | escaped | ";" | ":" | "&" | "=" | "+" | "$" | "," )
87     UserInfoChar = 1 << 2,
88
89     // alnum | "." | "-" | "%"
90     // The above is what the specification says, but we are lenient to
91     // match existing practice and also allow:
92     // "_"
93     HostnameChar = 1 << 3,
94
95     // hexdigit | ":" | "%"
96     IPv6Char = 1 << 4,
97
98     // "#" | "?" | "/" | nul
99     PathSegmentEndChar = 1 << 5,
100
101     // not allowed in path
102     BadChar = 1 << 6
103 };
104
105 static const unsigned char characterClassTable[256] = {
106     /* 0 nul */ PathSegmentEndChar,    /* 1 soh */ BadChar,
107     /* 2 stx */ BadChar,    /* 3 etx */ BadChar,
108     /* 4 eot */ BadChar,    /* 5 enq */ BadChar,    /* 6 ack */ BadChar,    /* 7 bel */ BadChar,
109     /* 8 bs */ BadChar,     /* 9 ht */ BadChar,     /* 10 nl */ BadChar,    /* 11 vt */ BadChar,
110     /* 12 np */ BadChar,    /* 13 cr */ BadChar,    /* 14 so */ BadChar,    /* 15 si */ BadChar,
111     /* 16 dle */ BadChar,   /* 17 dc1 */ BadChar,   /* 18 dc2 */ BadChar,   /* 19 dc3 */ BadChar,
112     /* 20 dc4 */ BadChar,   /* 21 nak */ BadChar,   /* 22 syn */ BadChar,   /* 23 etb */ BadChar,
113     /* 24 can */ BadChar,   /* 25 em */ BadChar,    /* 26 sub */ BadChar,   /* 27 esc */ BadChar,
114     /* 28 fs */ BadChar,    /* 29 gs */ BadChar,    /* 30 rs */ BadChar,    /* 31 us */ BadChar,
115     /* 32 sp */ BadChar,    /* 33  ! */ UserInfoChar,
116     /* 34  " */ BadChar,    /* 35  # */ PathSegmentEndChar | BadChar,
117     /* 36  $ */ UserInfoChar,    /* 37  % */ UserInfoChar | HostnameChar | IPv6Char | BadChar,
118     /* 38  & */ UserInfoChar,    /* 39  ' */ UserInfoChar,
119     /* 40  ( */ UserInfoChar,    /* 41  ) */ UserInfoChar,
120     /* 42  * */ UserInfoChar,    /* 43  + */ SchemeChar | UserInfoChar,
121     /* 44  , */ UserInfoChar,
122     /* 45  - */ SchemeChar | UserInfoChar | HostnameChar,
123     /* 46  . */ SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
124     /* 47  / */ PathSegmentEndChar,
125     /* 48  0 */ SchemeChar | UserInfoChar | HostnameChar | IPv6Char, 
126     /* 49  1 */ SchemeChar | UserInfoChar | HostnameChar | IPv6Char,    
127     /* 50  2 */ SchemeChar | UserInfoChar | HostnameChar | IPv6Char, 
128     /* 51  3 */ SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
129     /* 52  4 */ SchemeChar | UserInfoChar | HostnameChar | IPv6Char, 
130     /* 53  5 */ SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
131     /* 54  6 */ SchemeChar | UserInfoChar | HostnameChar | IPv6Char, 
132     /* 55  7 */ SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
133     /* 56  8 */ SchemeChar | UserInfoChar | HostnameChar | IPv6Char, 
134     /* 57  9 */ SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
135     /* 58  : */ UserInfoChar | IPv6Char,    /* 59  ; */ UserInfoChar,
136     /* 60  < */ BadChar,    /* 61  = */ UserInfoChar,
137     /* 62  > */ BadChar,    /* 63  ? */ PathSegmentEndChar | BadChar,
138     /* 64  @ */ 0,
139     /* 65  A */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar | IPv6Char,    
140     /* 66  B */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
141     /* 67  C */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
142     /* 68  D */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
143     /* 69  E */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
144     /* 70  F */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
145     /* 71  G */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
146     /* 72  H */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
147     /* 73  I */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
148     /* 74  J */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
149     /* 75  K */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
150     /* 76  L */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
151     /* 77  M */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
152     /* 78  N */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
153     /* 79  O */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
154     /* 80  P */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
155     /* 81  Q */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
156     /* 82  R */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
157     /* 83  S */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
158     /* 84  T */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
159     /* 85  U */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
160     /* 86  V */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
161     /* 87  W */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
162     /* 88  X */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar, 
163     /* 89  Y */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
164     /* 90  Z */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
165     /* 91  [ */ 0,
166     /* 92  \ */ 0,    /* 93  ] */ 0,
167     /* 94  ^ */ 0,
168     /* 95  _ */ UserInfoChar | HostnameChar,
169     /* 96  ` */ 0,
170     /* 97  a */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
171     /* 98  b */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar | IPv6Char, 
172     /* 99  c */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
173     /* 100  d */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar | IPv6Char, 
174     /* 101  e */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar | IPv6Char,
175     /* 102  f */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar | IPv6Char, 
176     /* 103  g */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
177     /* 104  h */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar, 
178     /* 105  i */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
179     /* 106  j */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar, 
180     /* 107  k */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
181     /* 108  l */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar, 
182     /* 109  m */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
183     /* 110  n */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar, 
184     /* 111  o */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
185     /* 112  p */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar, 
186     /* 113  q */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
187     /* 114  r */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar, 
188     /* 115  s */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
189     /* 116  t */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar, 
190     /* 117  u */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
191     /* 118  v */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar, 
192     /* 119  w */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
193     /* 120  x */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar, 
194     /* 121  y */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar,
195     /* 122  z */ SchemeFirstChar | SchemeChar | UserInfoChar | HostnameChar, 
196     /* 123  { */ 0,
197     /* 124  | */ 0,   /* 125  } */ 0,   /* 126  ~ */ UserInfoChar,   /* 127 del */ BadChar,
198     /* 128 */ BadChar, /* 129 */ BadChar, /* 130 */ BadChar, /* 131 */ BadChar,
199     /* 132 */ BadChar, /* 133 */ BadChar, /* 134 */ BadChar, /* 135 */ BadChar,
200     /* 136 */ BadChar, /* 137 */ BadChar, /* 138 */ BadChar, /* 139 */ BadChar,
201     /* 140 */ BadChar, /* 141 */ BadChar, /* 142 */ BadChar, /* 143 */ BadChar,
202     /* 144 */ BadChar, /* 145 */ BadChar, /* 146 */ BadChar, /* 147 */ BadChar,
203     /* 148 */ BadChar, /* 149 */ BadChar, /* 150 */ BadChar, /* 151 */ BadChar,
204     /* 152 */ BadChar, /* 153 */ BadChar, /* 154 */ BadChar, /* 155 */ BadChar,
205     /* 156 */ BadChar, /* 157 */ BadChar, /* 158 */ BadChar, /* 159 */ BadChar,
206     /* 160 */ BadChar, /* 161 */ BadChar, /* 162 */ BadChar, /* 163 */ BadChar,
207     /* 164 */ BadChar, /* 165 */ BadChar, /* 166 */ BadChar, /* 167 */ BadChar,
208     /* 168 */ BadChar, /* 169 */ BadChar, /* 170 */ BadChar, /* 171 */ BadChar,
209     /* 172 */ BadChar, /* 173 */ BadChar, /* 174 */ BadChar, /* 175 */ BadChar,
210     /* 176 */ BadChar, /* 177 */ BadChar, /* 178 */ BadChar, /* 179 */ BadChar,
211     /* 180 */ BadChar, /* 181 */ BadChar, /* 182 */ BadChar, /* 183 */ BadChar,
212     /* 184 */ BadChar, /* 185 */ BadChar, /* 186 */ BadChar, /* 187 */ BadChar,
213     /* 188 */ BadChar, /* 189 */ BadChar, /* 190 */ BadChar, /* 191 */ BadChar,
214     /* 192 */ BadChar, /* 193 */ BadChar, /* 194 */ BadChar, /* 195 */ BadChar,
215     /* 196 */ BadChar, /* 197 */ BadChar, /* 198 */ BadChar, /* 199 */ BadChar,
216     /* 200 */ BadChar, /* 201 */ BadChar, /* 202 */ BadChar, /* 203 */ BadChar,
217     /* 204 */ BadChar, /* 205 */ BadChar, /* 206 */ BadChar, /* 207 */ BadChar,
218     /* 208 */ BadChar, /* 209 */ BadChar, /* 210 */ BadChar, /* 211 */ BadChar,
219     /* 212 */ BadChar, /* 213 */ BadChar, /* 214 */ BadChar, /* 215 */ BadChar,
220     /* 216 */ BadChar, /* 217 */ BadChar, /* 218 */ BadChar, /* 219 */ BadChar,
221     /* 220 */ BadChar, /* 221 */ BadChar, /* 222 */ BadChar, /* 223 */ BadChar,
222     /* 224 */ BadChar, /* 225 */ BadChar, /* 226 */ BadChar, /* 227 */ BadChar,
223     /* 228 */ BadChar, /* 229 */ BadChar, /* 230 */ BadChar, /* 231 */ BadChar,
224     /* 232 */ BadChar, /* 233 */ BadChar, /* 234 */ BadChar, /* 235 */ BadChar,
225     /* 236 */ BadChar, /* 237 */ BadChar, /* 238 */ BadChar, /* 239 */ BadChar,
226     /* 240 */ BadChar, /* 241 */ BadChar, /* 242 */ BadChar, /* 243 */ BadChar,
227     /* 244 */ BadChar, /* 245 */ BadChar, /* 246 */ BadChar, /* 247 */ BadChar,
228     /* 248 */ BadChar, /* 249 */ BadChar, /* 250 */ BadChar, /* 251 */ BadChar,
229     /* 252 */ BadChar, /* 253 */ BadChar, /* 254 */ BadChar, /* 255 */ BadChar
230 };
231
232 static int copyPathRemovingDots(char* dst, const char* src, int srcStart, int srcEnd);
233 static void encodeRelativeString(const String& rel, const TextEncoding&, CharBuffer& ouput);
234 static String substituteBackslashes(const String&);
235
236 static inline bool isSchemeFirstChar(char c) { return characterClassTable[static_cast<unsigned char>(c)] & SchemeFirstChar; }
237 static inline bool isSchemeFirstChar(UChar c) { return c <= 0xff && (characterClassTable[c] & SchemeFirstChar); }
238 static inline bool isSchemeChar(char c) { return characterClassTable[static_cast<unsigned char>(c)] & SchemeChar; }
239 static inline bool isSchemeChar(UChar c) { return c <= 0xff && (characterClassTable[c] & SchemeChar); }
240 static inline bool isUserInfoChar(unsigned char c) { return characterClassTable[c] & UserInfoChar; }
241 static inline bool isHostnameChar(unsigned char c) { return characterClassTable[c] & HostnameChar; }
242 static inline bool isIPv6Char(unsigned char c) { return characterClassTable[c] & IPv6Char; }
243 static inline bool isPathSegmentEndChar(char c) { return characterClassTable[static_cast<unsigned char>(c)] & PathSegmentEndChar; }
244 static inline bool isPathSegmentEndChar(UChar c) { return c <= 0xff && (characterClassTable[c] & PathSegmentEndChar); }
245 static inline bool isBadChar(unsigned char c) { return characterClassTable[c] & BadChar; }
246     
247 static inline bool isSchemeCharacterMatchIgnoringCase(char character, char schemeCharacter)
248 {
249     ASSERT(isSchemeChar(character));
250     ASSERT(schemeCharacter & 0x20);
251     ASSERT(isASCIILower(schemeCharacter) || (!isASCIIUpper(schemeCharacter) && isSchemeChar(schemeCharacter)));
252     return (character | 0x20) == schemeCharacter;
253 }
254
255 // Copies the source to the destination, assuming all the source characters are
256 // ASCII. The destination buffer must be large enough. Null characters are allowed
257 // in the source string, and no attempt is made to null-terminate the result.
258 static void copyASCII(const String& string, char* dest)
259 {
260     if (string.isEmpty())
261         return;
262
263     if (string.is8Bit())
264         memcpy(dest, string.characters8(), string.length());
265     else {
266         const UChar* src = string.characters16();
267         for (size_t i = 0; i < string.length(); i++)
268             dest[i] = static_cast<char>(src[i]);
269     }
270 }
271
272 static void appendASCII(const String& base, const char* rel, size_t len, CharBuffer& buffer)
273 {
274     buffer.resize(base.length() + len + 1);
275     copyASCII(base, buffer.data());
276     memcpy(buffer.data() + base.length(), rel, len);
277     buffer[buffer.size() - 1] = '\0';
278 }
279
280 // FIXME: Move to PlatformString.h eventually.
281 // Returns the index of the first index in string |s| of any of the characters
282 // in |toFind|. |toFind| should be a null-terminated string, all characters up
283 // to the null will be searched. Returns int if not found.
284 static int findFirstOf(const UChar* s, int sLen, int startPos, const char* toFind)
285 {
286     for (int i = startPos; i < sLen; i++) {
287         const char* cur = toFind;
288         while (*cur) {
289             if (s[i] == *(cur++))
290                 return i;
291         }
292     }
293     return -1;
294 }
295
296 static inline void checkEncodedString(const String& url)
297 {
298     UNUSED_PARAM(url);
299     ASSERT(url.containsOnlyASCII());
300     ASSERT(url.isEmpty() || isSchemeFirstChar(url[0]));
301 }
302
303 inline bool KURL::protocolIs(const String& string, const char* protocol)
304 {
305     return WebCore::protocolIs(string, protocol);
306 }
307
308 void KURL::invalidate()
309 {
310     m_isValid = false;
311     m_protocolIsInHTTPFamily = false;
312     m_schemeEnd = 0;
313     m_userStart = 0;
314     m_userEnd = 0;
315     m_passwordEnd = 0;
316     m_hostEnd = 0;
317     m_portEnd = 0;
318     m_pathEnd = 0;
319     m_pathAfterLastSlash = 0;
320     m_queryEnd = 0;
321     m_fragmentEnd = 0;
322 }
323
324 KURL::KURL(ParsedURLStringTag, const String& url)
325 {
326     parse(url);
327     ASSERT(url == m_string);
328 }
329
330 KURL::KURL(ParsedURLStringTag, const URLString& url)
331 {
332     parse(url.string());
333     ASSERT(url.string() == m_string);
334 }
335
336 KURL::KURL(const KURL& base, const String& relative)
337 {
338     init(base, relative, UTF8Encoding());
339 }
340
341 KURL::KURL(const KURL& base, const String& relative, const TextEncoding& encoding)
342 {
343     // For UTF-{7,16,32}, we want to use UTF-8 for the query part as 
344     // we do when submitting a form. A form with GET method
345     // has its contents added to a URL as query params and it makes sense
346     // to be consistent.
347     init(base, relative, encoding.encodingForFormSubmission());
348 }
349
350 static bool shouldTrimFromURL(unsigned char c)
351 {
352     // Browsers ignore leading/trailing whitespace and control
353     // characters from URLs.  Note that c is an *unsigned* char here
354     // so this comparison should only catch control characters.
355     return c <= ' ';
356 }
357
358 void KURL::init(const KURL& base, const String& relative, const TextEncoding& encoding)
359 {
360     // Allow resolutions with a null or empty base URL, but not with any other invalid one.
361     // FIXME: Is this a good rule?
362     if (!base.m_isValid && !base.isEmpty()) {
363         m_string = relative;
364         invalidate();
365         return;
366     }
367
368     // For compatibility with Win IE, treat backslashes as if they were slashes,
369     // as long as we're not dealing with javascript: or data: URLs.
370     String rel = relative;
371     if (rel.contains('\\') && !(protocolIsJavaScript(rel) || protocolIs(rel, "data")))
372         rel = substituteBackslashes(rel);
373
374     bool allASCII = rel.containsOnlyASCII();
375     CharBuffer strBuffer;
376     char* str;
377     size_t len;
378     if (allASCII) {
379         len = rel.length();
380         strBuffer.resize(len + 1);
381         copyASCII(rel, strBuffer.data());
382         strBuffer[len] = 0;
383         str = strBuffer.data();
384     } else {
385         encodeRelativeString(rel, encoding, strBuffer);
386         str = strBuffer.data();
387         len = strlen(str);
388     }
389
390     // Get rid of leading whitespace and control characters.
391     while (len && shouldTrimFromURL(*str)) {
392         str++;
393         --len;
394     }
395
396     // Get rid of trailing whitespace and control characters.
397     while (len && shouldTrimFromURL(str[len - 1]))
398         str[--len] = '\0';
399
400     // According to the RFC, the reference should be interpreted as an
401     // absolute URI if possible, using the "leftmost, longest"
402     // algorithm. If the URI reference is absolute it will have a
403     // scheme, meaning that it will have a colon before the first
404     // non-scheme element.
405     bool absolute = false;
406     char* p = str;
407     if (isSchemeFirstChar(*p)) {
408         ++p;
409         while (isSchemeChar(*p)) {
410             ++p;
411         }
412         if (*p == ':') {
413             if (p[1] != '/' && equalIgnoringCase(base.protocol(), String(str, p - str)) && base.isHierarchical())
414                 str = p + 1;
415             else
416                 absolute = true;
417         }
418     }
419
420     CharBuffer parseBuffer;
421
422     if (absolute) {
423         parse(str, &relative);
424     } else {
425         // If the base is empty or opaque (e.g. data: or javascript:), then the URL is invalid
426         // unless the relative URL is a single fragment.
427         if (!base.isHierarchical()) {
428             if (str[0] == '#') {
429                 appendASCII(base.m_string.left(base.m_queryEnd), str, len, parseBuffer);
430                 parse(parseBuffer.data(), &relative);
431             } else {
432                 m_string = relative;
433                 invalidate();
434             }
435             return;
436         }
437
438         switch (str[0]) {
439         case '\0':
440             // The reference is empty, so this is a reference to the same document with any fragment identifier removed.
441             *this = base;
442             removeFragmentIdentifier();
443             break;
444         case '#': {
445             // must be fragment-only reference
446             appendASCII(base.m_string.left(base.m_queryEnd), str, len, parseBuffer);
447             parse(parseBuffer.data(), &relative);
448             break;
449         }
450         case '?': {
451             // query-only reference, special case needed for non-URL results
452             appendASCII(base.m_string.left(base.m_pathEnd), str, len, parseBuffer);
453             parse(parseBuffer.data(), &relative);
454             break;
455         }
456         case '/':
457             // must be net-path or absolute-path reference
458             if (str[1] == '/') {
459                 // net-path
460                 appendASCII(base.m_string.left(base.m_schemeEnd + 1), str, len, parseBuffer);
461                 parse(parseBuffer.data(), &relative);
462             } else {
463                 // abs-path
464                 appendASCII(base.m_string.left(base.m_portEnd), str, len, parseBuffer);
465                 parse(parseBuffer.data(), &relative);
466             }
467             break;
468         default:
469             {
470                 // must be relative-path reference
471
472                 // Base part plus relative part plus one possible slash added in between plus terminating \0 byte.
473                 const size_t bufferSize = base.m_pathEnd + 1 + len + 1;
474                 parseBuffer.resize(bufferSize);
475
476                 char* bufferPos = parseBuffer.data();
477                 char* bufferStart = bufferPos;
478
479                 // first copy everything before the path from the base
480                 CharBuffer baseStringBuffer(base.m_string.length());
481                 copyASCII(base.m_string, baseStringBuffer.data());
482                 const char* baseString = baseStringBuffer.data();
483                 const char* baseStringStart = baseString;
484                 const char* pathStart = baseStringStart + base.m_portEnd;
485                 while (baseStringStart < pathStart)
486                     *bufferPos++ = *baseStringStart++;
487                 char* bufferPathStart = bufferPos;
488
489                 // now copy the base path
490                 const char* baseStringEnd = baseString + base.m_pathEnd;
491
492                 // go back to the last slash
493                 while (baseStringEnd > baseStringStart && baseStringEnd[-1] != '/')
494                     baseStringEnd--;
495
496                 if (baseStringEnd == baseStringStart) {
497                     // no path in base, add a path separator if necessary
498                     if (base.m_schemeEnd + 1 != base.m_pathEnd && *str && *str != '?' && *str != '#')
499                         *bufferPos++ = '/';
500                 } else {
501                     bufferPos += copyPathRemovingDots(bufferPos, baseStringStart, 0, baseStringEnd - baseStringStart);
502                 }
503
504                 const char* relStringStart = str;
505                 const char* relStringPos = relStringStart;
506
507                 while (*relStringPos && *relStringPos != '?' && *relStringPos != '#') {
508                     if (relStringPos[0] == '.' && bufferPos[-1] == '/') {
509                         if (isPathSegmentEndChar(relStringPos[1])) {
510                             // skip over "." segment
511                             relStringPos += 1;
512                             if (relStringPos[0] == '/')
513                                 relStringPos++;
514                             continue;
515                         } else if (relStringPos[1] == '.' && isPathSegmentEndChar(relStringPos[2])) {
516                             // skip over ".." segment and rewind the last segment
517                             // the RFC leaves it up to the app to decide what to do with excess
518                             // ".." segments - we choose to drop them since some web content
519                             // relies on this.
520                             relStringPos += 2;
521                             if (relStringPos[0] == '/')
522                                 relStringPos++;
523                             if (bufferPos > bufferPathStart + 1)
524                                 bufferPos--;
525                             while (bufferPos > bufferPathStart + 1  && bufferPos[-1] != '/')
526                                 bufferPos--;
527                             continue;
528                         }
529                     }
530
531                     *bufferPos = *relStringPos;
532                     relStringPos++;
533                     bufferPos++;
534                 }
535
536                 // all done with the path work, now copy any remainder
537                 // of the relative reference; this will also add a null terminator
538                 strncpy(bufferPos, relStringPos, bufferSize - (bufferPos - bufferStart));
539
540                 parse(parseBuffer.data(), &relative);
541
542                 ASSERT(strlen(parseBuffer.data()) + 1 <= parseBuffer.size());
543                 break;
544             }
545         }
546     }
547 }
548
549 KURL KURL::copy() const
550 {
551     KURL result = *this;
552     result.m_string = result.m_string.isolatedCopy();
553     return result;
554 }
555
556 bool KURL::hasPath() const
557 {
558     return m_pathEnd != m_portEnd;
559 }
560
561 String KURL::lastPathComponent() const
562 {
563     if (!hasPath())
564         return String();
565
566     unsigned end = m_pathEnd - 1;
567     if (m_string[end] == '/')
568         --end;
569
570     size_t start = m_string.reverseFind('/', end);
571     if (start < static_cast<unsigned>(m_portEnd))
572         return String();
573     ++start;
574
575     return m_string.substring(start, end - start + 1);
576 }
577
578 String KURL::protocol() const
579 {
580     return m_string.left(m_schemeEnd);
581 }
582
583 String KURL::host() const
584 {
585     int start = hostStart();
586     return decodeURLEscapeSequences(m_string.substring(start, m_hostEnd - start));
587 }
588
589 unsigned short KURL::port() const
590 {
591     // We return a port of 0 if there is no port specified. This can happen in two situations:
592     // 1) The URL contains no colon after the host name and before the path component of the URL.
593     // 2) The URL contains a colon but there's no port number before the path component of the URL begins.
594     if (m_hostEnd == m_portEnd || m_hostEnd == m_portEnd - 1)
595         return 0;
596
597     const UChar* stringData = m_string.characters();
598     bool ok = false;
599     unsigned number = charactersToUIntStrict(stringData + m_hostEnd + 1, m_portEnd - m_hostEnd - 1, &ok);
600     if (!ok || number > maximumValidPortNumber)
601         return invalidPortNumber;
602     return number;
603 }
604
605 String KURL::pass() const
606 {
607     if (m_passwordEnd == m_userEnd)
608         return String();
609
610     return decodeURLEscapeSequences(m_string.substring(m_userEnd + 1, m_passwordEnd - m_userEnd - 1)); 
611 }
612
613 String KURL::user() const
614 {
615     return decodeURLEscapeSequences(m_string.substring(m_userStart, m_userEnd - m_userStart));
616 }
617
618 String KURL::fragmentIdentifier() const
619 {
620     if (m_fragmentEnd == m_queryEnd)
621         return String();
622
623     return m_string.substring(m_queryEnd + 1, m_fragmentEnd - (m_queryEnd + 1));
624 }
625
626 bool KURL::hasFragmentIdentifier() const
627 {
628     return m_fragmentEnd != m_queryEnd;
629 }
630
631 void KURL::copyParsedQueryTo(ParsedURLParameters& parameters) const
632 {
633     const UChar* pos = m_string.characters() + m_pathEnd + 1;
634     const UChar* end = m_string.characters() + m_queryEnd;
635     while (pos < end) {
636         const UChar* parameterStart = pos;
637         while (pos < end && *pos != '&')
638             ++pos;
639         const UChar* parameterEnd = pos;
640         if (pos < end) {
641             ASSERT(*pos == '&');
642             ++pos;
643         }
644         if (parameterStart == parameterEnd)
645             continue;
646         const UChar* nameStart = parameterStart;
647         const UChar* equalSign = parameterStart;
648         while (equalSign < parameterEnd && *equalSign != '=')
649             ++equalSign;
650         if (equalSign == nameStart)
651             continue;
652         String name(nameStart, equalSign - nameStart);
653         String value = equalSign == parameterEnd ? String() : String(equalSign + 1, parameterEnd - equalSign - 1);
654         parameters.set(name, value);
655     }
656 }
657
658 String KURL::baseAsString() const
659 {
660     return m_string.left(m_pathAfterLastSlash);
661 }
662
663 #ifdef NDEBUG
664
665 static inline void assertProtocolIsGood(const char*)
666 {
667 }
668
669 #else
670
671 static void assertProtocolIsGood(const char* protocol)
672 {
673     const char* p = protocol;
674     while (*p) {
675         ASSERT(*p > ' ' && *p < 0x7F && !(*p >= 'A' && *p <= 'Z'));
676         ++p;
677     }
678 }
679
680 #endif
681
682 bool KURL::protocolIs(const char* protocol) const
683 {
684     assertProtocolIsGood(protocol);
685
686     // JavaScript URLs are "valid" and should be executed even if KURL decides they are invalid.
687     // The free function protocolIsJavaScript() should be used instead. 
688     ASSERT(!equalIgnoringCase(protocol, String("javascript")));
689
690     if (!m_isValid)
691         return false;
692
693     // Do the comparison without making a new string object.
694     for (int i = 0; i < m_schemeEnd; ++i) {
695         if (!protocol[i] || !isSchemeCharacterMatchIgnoringCase(m_string[i], protocol[i]))
696             return false;
697     }
698     return !protocol[m_schemeEnd]; // We should have consumed all characters in the argument.
699 }
700
701 String KURL::query() const
702 {
703     if (m_queryEnd == m_pathEnd)
704         return String();
705
706     return m_string.substring(m_pathEnd + 1, m_queryEnd - (m_pathEnd + 1)); 
707 }
708
709 String KURL::path() const
710 {
711     return m_string.substring(m_portEnd, m_pathEnd - m_portEnd);
712 }
713
714 bool KURL::setProtocol(const String& s)
715 {
716     // Firefox and IE remove everything after the first ':'.
717     size_t separatorPosition = s.find(':');
718     String newProtocol = s.substring(0, separatorPosition);
719
720     if (!isValidProtocol(newProtocol))
721         return false;
722
723     if (!m_isValid) {
724         parse(newProtocol + ":" + m_string);
725         return true;
726     }
727
728     parse(newProtocol + m_string.substring(m_schemeEnd));
729     return true;
730 }
731
732 void KURL::setHost(const String& s)
733 {
734     if (!m_isValid)
735         return;
736
737     // FIXME: Non-ASCII characters must be encoded and escaped to match parse() expectations,
738     // and to avoid changing more than just the host.
739
740     bool slashSlashNeeded = m_userStart == m_schemeEnd + 1;
741
742     parse(m_string.left(hostStart()) + (slashSlashNeeded ? "//" : "") + s + m_string.substring(m_hostEnd));
743 }
744
745 void KURL::removePort()
746 {
747     if (m_hostEnd == m_portEnd)
748         return;
749     parse(m_string.left(m_hostEnd) + m_string.substring(m_portEnd));
750 }
751
752 void KURL::setPort(unsigned short i)
753 {
754     if (!m_isValid)
755         return;
756
757     bool colonNeeded = m_portEnd == m_hostEnd;
758     int portStart = (colonNeeded ? m_hostEnd : m_hostEnd + 1);
759
760     parse(m_string.left(portStart) + (colonNeeded ? ":" : "") + String::number(i) + m_string.substring(m_portEnd));
761 }
762
763 void KURL::setHostAndPort(const String& hostAndPort)
764 {
765     if (!m_isValid)
766         return;
767
768     // FIXME: Non-ASCII characters must be encoded and escaped to match parse() expectations,
769     // and to avoid changing more than just host and port.
770
771     bool slashSlashNeeded = m_userStart == m_schemeEnd + 1;
772
773     parse(m_string.left(hostStart()) + (slashSlashNeeded ? "//" : "") + hostAndPort + m_string.substring(m_portEnd));
774 }
775
776 void KURL::setUser(const String& user)
777 {
778     if (!m_isValid)
779         return;
780
781     // FIXME: Non-ASCII characters must be encoded and escaped to match parse() expectations,
782     // and to avoid changing more than just the user login.
783     String u;
784     int end = m_userEnd;
785     if (!user.isEmpty()) {
786         u = user;
787         if (m_userStart == m_schemeEnd + 1)
788             u = "//" + u;
789         // Add '@' if we didn't have one before.
790         if (end == m_hostEnd || (end == m_passwordEnd && m_string[end] != '@'))
791             u.append('@');
792     } else {
793         // Remove '@' if we now have neither user nor password.
794         if (m_userEnd == m_passwordEnd && end != m_hostEnd && m_string[end] == '@')
795             end += 1;
796     }
797     parse(m_string.left(m_userStart) + u + m_string.substring(end));
798 }
799
800 void KURL::setPass(const String& password)
801 {
802     if (!m_isValid)
803         return;
804
805     // FIXME: Non-ASCII characters must be encoded and escaped to match parse() expectations,
806     // and to avoid changing more than just the user password.
807     String p;
808     int end = m_passwordEnd;
809     if (!password.isEmpty()) {
810         p = ":" + password + "@";
811         if (m_userEnd == m_schemeEnd + 1)
812             p = "//" + p;
813         // Eat the existing '@' since we are going to add our own.
814         if (end != m_hostEnd && m_string[end] == '@')
815             end += 1;
816     } else {
817         // Remove '@' if we now have neither user nor password.
818         if (m_userStart == m_userEnd && end != m_hostEnd && m_string[end] == '@')
819             end += 1;
820     }
821     parse(m_string.left(m_userEnd) + p + m_string.substring(end));
822 }
823
824 void KURL::setFragmentIdentifier(const String& s)
825 {
826     if (!m_isValid)
827         return;
828
829     // FIXME: Non-ASCII characters must be encoded and escaped to match parse() expectations.
830     parse(m_string.left(m_queryEnd) + "#" + s);
831 }
832
833 void KURL::removeFragmentIdentifier()
834 {
835     if (!m_isValid)
836         return;
837     parse(m_string.left(m_queryEnd));
838 }
839     
840 void KURL::setQuery(const String& query)
841 {
842     if (!m_isValid)
843         return;
844
845     // FIXME: '#' and non-ASCII characters must be encoded and escaped.
846     // Usually, the query is encoded using document encoding, not UTF-8, but we don't have
847     // access to the document in this function.
848     if ((query.isEmpty() || query[0] != '?') && !query.isNull())
849         parse(m_string.left(m_pathEnd) + "?" + query + m_string.substring(m_queryEnd));
850     else
851         parse(m_string.left(m_pathEnd) + query + m_string.substring(m_queryEnd));
852
853 }
854
855 void KURL::setPath(const String& s)
856 {
857     if (!m_isValid)
858         return;
859
860     // FIXME: encodeWithURLEscapeSequences does not correctly escape '#' and '?', so fragment and query parts
861     // may be inadvertently affected.
862     String path = s;
863     if (path.isEmpty() || path[0] != '/')
864         path = "/" + path;
865
866     parse(m_string.left(m_portEnd) + encodeWithURLEscapeSequences(path) + m_string.substring(m_pathEnd));
867 }
868
869 String KURL::deprecatedString() const
870 {
871     if (!m_isValid)
872         return m_string;
873
874     StringBuilder result;
875
876     result.append(protocol());
877     result.append(':');
878
879     StringBuilder authority;
880
881     if (m_hostEnd != m_passwordEnd) {
882         if (m_userEnd != m_userStart) {
883             authority.append(user());
884             authority.append('@');
885         }
886         authority.append(host());
887         if (hasPort()) {
888             authority.append(':');
889             authority.append(String::number(port()));
890         }
891     }
892
893     if (!authority.isEmpty()) {
894         result.append('/');
895         result.append('/');
896         result.append(authority.characters(), authority.length());
897     } else if (protocolIs("file")) {
898         result.append('/');
899         result.append('/');
900     }
901
902     result.append(path());
903
904     if (m_pathEnd != m_queryEnd) {
905         result.append('?');
906         result.append(query());
907     }
908
909     if (m_fragmentEnd != m_queryEnd) {
910         result.append('#');
911         result.append(fragmentIdentifier());
912     }
913
914     return result.toString();
915 }
916
917 String decodeURLEscapeSequences(const String& string)
918 {
919     return decodeEscapeSequences<URLEscapeSequence>(string, UTF8Encoding());
920 }
921
922 String decodeURLEscapeSequences(const String& string, const TextEncoding& encoding)
923 {
924     return decodeEscapeSequences<URLEscapeSequence>(string, encoding);
925 }
926
927 // Caution: This function does not bounds check.
928 static void appendEscapedChar(char*& buffer, unsigned char c)
929 {
930     *buffer++ = '%';
931     placeByteAsHex(c, buffer);
932 }
933
934 static void appendEscapingBadChars(char*& buffer, const char* strStart, size_t length)
935 {
936     char* p = buffer;
937
938     const char* str = strStart;
939     const char* strEnd = strStart + length;
940     while (str < strEnd) {
941         unsigned char c = *str++;
942         if (isBadChar(c)) {
943             if (c == '%' || c == '?')
944                 *p++ = c;
945             else if (c != 0x09 && c != 0x0a && c != 0x0d)
946                 appendEscapedChar(p, c);
947         } else
948             *p++ = c;
949     }
950
951     buffer = p;
952 }
953
954 static void escapeAndAppendNonHierarchicalPart(char*& buffer, const char* strStart, size_t length)
955 {
956     char* p = buffer;
957
958     const char* str = strStart;
959     const char* strEnd = strStart + length;
960     while (str < strEnd) {
961         unsigned char c = *str++;
962         // Strip CR, LF and Tab from fragments, per:
963         // https://bugs.webkit.org/show_bug.cgi?id=8770
964         if (c == 0x09 || c == 0x0a || c == 0x0d)
965             continue;
966
967         // Chrome and IE allow non-ascii characters in fragments, however doing
968         // so would hit an ASSERT in checkEncodedString, so for now we don't.
969         if (c < 0x20 || c >= 127) {
970             appendEscapedChar(p, c);
971             continue;
972         }
973         *p++ = c;
974     }
975
976     buffer = p;
977 }
978
979 // copy a path, accounting for "." and ".." segments
980 static int copyPathRemovingDots(char* dst, const char* src, int srcStart, int srcEnd)
981 {
982     char* bufferPathStart = dst;
983
984     // empty path is a special case, and need not have a leading slash
985     if (srcStart != srcEnd) {
986         const char* baseStringStart = src + srcStart;
987         const char* baseStringEnd = src + srcEnd;
988         const char* baseStringPos = baseStringStart;
989
990         // this code is unprepared for paths that do not begin with a
991         // slash and we should always have one in the source string
992         ASSERT(baseStringPos[0] == '/');
993
994         // copy the leading slash into the destination
995         *dst = *baseStringPos;
996         baseStringPos++;
997         dst++;
998
999         while (baseStringPos < baseStringEnd) {
1000             if (baseStringPos[0] == '.' && dst[-1] == '/') {
1001                 if (baseStringPos[1] == '/' || baseStringPos + 1 == baseStringEnd) {
1002                     // skip over "." segment
1003                     baseStringPos += 2;
1004                     continue;
1005                 } else if (baseStringPos[1] == '.' && (baseStringPos[2] == '/' ||
1006                                        baseStringPos + 2 == baseStringEnd)) {
1007                     // skip over ".." segment and rewind the last segment
1008                     // the RFC leaves it up to the app to decide what to do with excess
1009                     // ".." segments - we choose to drop them since some web content
1010                     // relies on this.
1011                     baseStringPos += 3;
1012                     if (dst > bufferPathStart + 1)
1013                         dst--;
1014                     while (dst > bufferPathStart && dst[-1] != '/')
1015                         dst--;
1016                     continue;
1017                 }
1018             }
1019
1020             *dst = *baseStringPos;
1021             baseStringPos++;
1022             dst++;
1023         }
1024     }
1025     *dst = '\0';
1026     return dst - bufferPathStart;
1027 }
1028
1029 static inline bool hasSlashDotOrDotDot(const char* str)
1030 {
1031     const unsigned char* p = reinterpret_cast<const unsigned char*>(str);
1032     if (!*p)
1033         return false;
1034     unsigned char pc = *p;
1035     while (unsigned char c = *++p) {
1036         if (c == '.' && (pc == '/' || pc == '.'))
1037             return true;
1038         pc = c;
1039     }
1040     return false;
1041 }
1042
1043 void KURL::parse(const String& string)
1044 {
1045     checkEncodedString(string);
1046
1047     CharBuffer buffer(string.length() + 1);
1048     copyASCII(string, buffer.data());
1049     buffer[string.length()] = '\0';
1050     parse(buffer.data(), &string);
1051 }
1052
1053 static inline bool equal(const char* a, size_t lenA, const char* b, size_t lenB)
1054 {
1055     if (lenA != lenB)
1056         return false;
1057     return !strncmp(a, b, lenA);
1058 }
1059
1060 // List of default schemes is taken from google-url:
1061 // http://code.google.com/p/google-url/source/browse/trunk/src/url_canon_stdurl.cc#120
1062 static inline bool isDefaultPortForScheme(const char* port, size_t portLength, const char* scheme, size_t schemeLength)
1063 {
1064     // This switch is theoretically a performance optimization.  It came over when
1065     // the code was moved from google-url, but may be removed later.
1066     switch (schemeLength) {
1067     case 2:
1068         return equal("ws", 2, scheme, schemeLength) && equal("80", 2, port, portLength);
1069     case 3:
1070         if (equal("ftp", 3, scheme, schemeLength))
1071             return equal("21", 2, port, portLength);
1072         if (equal("wss", 3, scheme, schemeLength))
1073             return equal("443", 3, port, portLength);
1074         break;
1075     case 4:
1076         return equal("http", 4, scheme, schemeLength) && equal("80", 2, port, portLength);
1077     case 5:
1078         return equal("https", 5, scheme, schemeLength) && equal("443", 3, port, portLength);
1079     case 6:
1080         return equal("gopher", 6, scheme, schemeLength) && equal("70", 2, port, portLength);
1081     }
1082     return false;
1083 }
1084
1085 static inline bool hostPortIsEmptyButCredentialsArePresent(int hostStart, int portEnd, char userEndChar)
1086 {
1087     return userEndChar == '@' && hostStart == portEnd;
1088 }
1089
1090 static bool isNonFileHierarchicalScheme(const char* scheme, size_t schemeLength)
1091 {
1092     switch (schemeLength) {
1093     case 2:
1094         return equal("ws", 2, scheme, schemeLength);
1095     case 3:
1096         return equal("ftp", 3, scheme, schemeLength) || equal("wss", 3, scheme, schemeLength);
1097     case 4:
1098         return equal("http", 4, scheme, schemeLength);
1099     case 5:
1100         return equal("https", 5, scheme, schemeLength);
1101     case 6:
1102         return equal("gopher", 6, scheme, schemeLength);
1103     }
1104     return false;
1105 }
1106
1107 void KURL::parse(const char* url, const String* originalString)
1108 {
1109     if (!url || url[0] == '\0') {
1110         // valid URL must be non-empty
1111         m_string = originalString ? *originalString : url;
1112         invalidate();
1113         return;
1114     }
1115
1116     if (!isSchemeFirstChar(url[0])) {
1117         // scheme must start with an alphabetic character
1118         m_string = originalString ? *originalString : url;
1119         invalidate();
1120         return;
1121     }
1122
1123     int schemeEnd = 0;
1124     while (isSchemeChar(url[schemeEnd]))
1125         schemeEnd++;
1126
1127     if (url[schemeEnd] != ':') {
1128         m_string = originalString ? *originalString : url;
1129         invalidate();
1130         return;
1131     }
1132
1133     int userStart = schemeEnd + 1;
1134     int userEnd;
1135     int passwordStart;
1136     int passwordEnd;
1137     int hostStart;
1138     int hostEnd;
1139     int portStart;
1140     int portEnd;
1141
1142     bool hierarchical = url[schemeEnd + 1] == '/';
1143     bool hasSecondSlash = hierarchical && url[schemeEnd + 2] == '/';
1144
1145     bool isFile = schemeEnd == 4
1146         && isLetterMatchIgnoringCase(url[0], 'f')
1147         && isLetterMatchIgnoringCase(url[1], 'i')
1148         && isLetterMatchIgnoringCase(url[2], 'l')
1149         && isLetterMatchIgnoringCase(url[3], 'e');
1150
1151     m_protocolIsInHTTPFamily = isLetterMatchIgnoringCase(url[0], 'h')
1152         && isLetterMatchIgnoringCase(url[1], 't')
1153         && isLetterMatchIgnoringCase(url[2], 't')
1154         && isLetterMatchIgnoringCase(url[3], 'p')
1155         && (url[4] == ':' || (isLetterMatchIgnoringCase(url[4], 's') && url[5] == ':'));
1156
1157     if ((hierarchical && hasSecondSlash) || isNonFileHierarchicalScheme(url, schemeEnd)) {
1158         // The part after the scheme is either a net_path or an abs_path whose first path segment is empty.
1159         // Attempt to find an authority.
1160         // FIXME: Authority characters may be scanned twice, and it would be nice to be faster.
1161
1162         if (hierarchical)
1163             userStart++;
1164         if (hasSecondSlash)
1165             userStart++;
1166         userEnd = userStart;
1167
1168         int colonPos = 0;
1169         while (isUserInfoChar(url[userEnd])) {
1170             if (url[userEnd] == ':' && colonPos == 0)
1171                 colonPos = userEnd;
1172             userEnd++;
1173         }
1174
1175         if (url[userEnd] == '@') {
1176             // actual end of the userinfo, start on the host
1177             if (colonPos != 0) {
1178                 passwordEnd = userEnd;
1179                 userEnd = colonPos;
1180                 passwordStart = colonPos + 1;
1181             } else
1182                 passwordStart = passwordEnd = userEnd;
1183
1184             hostStart = passwordEnd + 1;
1185         } else if (url[userEnd] == '[' || isPathSegmentEndChar(url[userEnd])) {
1186             // hit the end of the authority, must have been no user
1187             // or looks like an IPv6 hostname
1188             // either way, try to parse it as a hostname
1189             userEnd = userStart;
1190             passwordStart = passwordEnd = userEnd;
1191             hostStart = userStart;
1192         } else {
1193             // invalid character
1194             m_string = originalString ? *originalString : url;
1195             invalidate();
1196             return;
1197         }
1198
1199         hostEnd = hostStart;
1200
1201         // IPV6 IP address
1202         if (url[hostEnd] == '[') {
1203             hostEnd++;
1204             while (isIPv6Char(url[hostEnd]))
1205                 hostEnd++;
1206             if (url[hostEnd] == ']')
1207                 hostEnd++;
1208             else {
1209                 // invalid character
1210                 m_string = originalString ? *originalString : url;
1211                 invalidate();
1212                 return;
1213             }
1214         } else {
1215             while (isHostnameChar(url[hostEnd]))
1216                 hostEnd++;
1217         }
1218         
1219         if (url[hostEnd] == ':') {
1220             portStart = portEnd = hostEnd + 1;
1221  
1222             // possible start of port
1223             portEnd = portStart;
1224             while (isASCIIDigit(url[portEnd]))
1225                 portEnd++;
1226         } else
1227             portStart = portEnd = hostEnd;
1228
1229         if (!isPathSegmentEndChar(url[portEnd])) {
1230             // invalid character
1231             m_string = originalString ? *originalString : url;
1232             invalidate();
1233             return;
1234         }
1235
1236         if (hostPortIsEmptyButCredentialsArePresent(hostStart, portEnd, url[userEnd])) {
1237             // in this circumstance, act as if there is an erroneous hostname containing an '@'
1238             userEnd = userStart;
1239             hostStart = userEnd;
1240         }
1241
1242         if (userStart == portEnd && !m_protocolIsInHTTPFamily && !isFile) {
1243             // No authority found, which means that this is not a net_path, but rather an abs_path whose first two
1244             // path segments are empty. For file, http and https only, an empty authority is allowed.
1245             userStart -= 2;
1246             userEnd = userStart;
1247             passwordStart = userEnd;
1248             passwordEnd = passwordStart;
1249             hostStart = passwordEnd;
1250             hostEnd = hostStart;
1251             portStart = hostEnd;
1252             portEnd = hostEnd;
1253         }
1254     } else {
1255         // the part after the scheme must be an opaque_part or an abs_path
1256         userEnd = userStart;
1257         passwordStart = passwordEnd = userEnd;
1258         hostStart = hostEnd = passwordEnd;
1259         portStart = portEnd = hostEnd;
1260     }
1261
1262     int pathStart = portEnd;
1263     int pathEnd = pathStart;
1264     while (url[pathEnd] && url[pathEnd] != '?' && url[pathEnd] != '#')
1265         pathEnd++;
1266
1267     int queryStart = pathEnd;
1268     int queryEnd = queryStart;
1269     if (url[queryStart] == '?') {
1270         while (url[queryEnd] && url[queryEnd] != '#')
1271             queryEnd++;
1272     }
1273
1274     int fragmentStart = queryEnd;
1275     int fragmentEnd = fragmentStart;
1276     if (url[fragmentStart] == '#') {
1277         fragmentStart++;
1278         fragmentEnd = fragmentStart;
1279         while (url[fragmentEnd])
1280             fragmentEnd++;
1281     }
1282
1283     // assemble it all, remembering the real ranges
1284
1285     Vector<char, 4096> buffer(fragmentEnd * 3 + 1);
1286
1287     char *p = buffer.data();
1288     const char *strPtr = url;
1289
1290     // copy in the scheme
1291     const char *schemeEndPtr = url + schemeEnd;
1292     while (strPtr < schemeEndPtr)
1293         *p++ = toASCIILower(*strPtr++);
1294     m_schemeEnd = p - buffer.data();
1295
1296     bool hostIsLocalHost = portEnd - userStart == 9
1297         && isLetterMatchIgnoringCase(url[userStart], 'l')
1298         && isLetterMatchIgnoringCase(url[userStart+1], 'o')
1299         && isLetterMatchIgnoringCase(url[userStart+2], 'c')
1300         && isLetterMatchIgnoringCase(url[userStart+3], 'a')
1301         && isLetterMatchIgnoringCase(url[userStart+4], 'l')
1302         && isLetterMatchIgnoringCase(url[userStart+5], 'h')
1303         && isLetterMatchIgnoringCase(url[userStart+6], 'o')
1304         && isLetterMatchIgnoringCase(url[userStart+7], 's')
1305         && isLetterMatchIgnoringCase(url[userStart+8], 't');
1306
1307     // File URLs need a host part unless it is just file:// or file://localhost
1308     bool degenFilePath = pathStart == pathEnd && (hostStart == hostEnd || hostIsLocalHost);
1309
1310     bool haveNonHostAuthorityPart = userStart != userEnd || passwordStart != passwordEnd || portStart != portEnd;
1311
1312     // add ":" after scheme
1313     *p++ = ':';
1314
1315     // if we have at least one authority part or a file URL - add "//" and authority
1316     if (isFile ? !degenFilePath : (haveNonHostAuthorityPart || hostStart != hostEnd)) {
1317         *p++ = '/';
1318         *p++ = '/';
1319
1320         m_userStart = p - buffer.data();
1321
1322         // copy in the user
1323         strPtr = url + userStart;
1324         const char* userEndPtr = url + userEnd;
1325         while (strPtr < userEndPtr)
1326             *p++ = *strPtr++;
1327         m_userEnd = p - buffer.data();
1328
1329         // copy in the password
1330         if (passwordEnd != passwordStart) {
1331             *p++ = ':';
1332             strPtr = url + passwordStart;
1333             const char* passwordEndPtr = url + passwordEnd;
1334             while (strPtr < passwordEndPtr)
1335                 *p++ = *strPtr++;
1336         }
1337         m_passwordEnd = p - buffer.data();
1338
1339         // If we had any user info, add "@"
1340         if (p - buffer.data() != m_userStart)
1341             *p++ = '@';
1342
1343         // copy in the host, except in the case of a file URL with authority="localhost"
1344         if (!(isFile && hostIsLocalHost && !haveNonHostAuthorityPart)) {
1345             strPtr = url + hostStart;
1346             const char* hostEndPtr = url + hostEnd;
1347             while (strPtr < hostEndPtr)
1348                 *p++ = *strPtr++;
1349         }
1350         m_hostEnd = p - buffer.data();
1351
1352         // Copy in the port if the URL has one (and it's not default).
1353         if (hostEnd != portStart) {
1354             const char* portStr = url + portStart;
1355             size_t portLength = portEnd - portStart;
1356             if (portLength && !isDefaultPortForScheme(portStr, portLength, buffer.data(), m_schemeEnd)) {
1357                 *p++ = ':';
1358                 const char* portEndPtr = url + portEnd;
1359                 while (portStr < portEndPtr)
1360                     *p++ = *portStr++;
1361             }
1362         }
1363         m_portEnd = p - buffer.data();
1364     } else
1365         m_userStart = m_userEnd = m_passwordEnd = m_hostEnd = m_portEnd = p - buffer.data();
1366
1367     // For canonicalization, ensure we have a '/' for no path.
1368     // Do this only for URL with protocol http or https.
1369     if (m_protocolIsInHTTPFamily && pathEnd == pathStart)
1370         *p++ = '/';
1371
1372     // add path, escaping bad characters
1373     if (!hierarchical)
1374         escapeAndAppendNonHierarchicalPart(p, url + pathStart, pathEnd - pathStart);
1375     else if (!hasSlashDotOrDotDot(url))
1376         appendEscapingBadChars(p, url + pathStart, pathEnd - pathStart);
1377     else {
1378         CharBuffer pathBuffer(pathEnd - pathStart + 1);
1379         size_t length = copyPathRemovingDots(pathBuffer.data(), url, pathStart, pathEnd);
1380         appendEscapingBadChars(p, pathBuffer.data(), length);
1381     }
1382
1383     m_pathEnd = p - buffer.data();
1384
1385     // Find the position after the last slash in the path, or
1386     // the position before the path if there are no slashes in it.
1387     int i;
1388     for (i = m_pathEnd; i > m_portEnd; --i) {
1389         if (buffer[i - 1] == '/')
1390             break;
1391     }
1392     m_pathAfterLastSlash = i;
1393
1394     // add query, escaping bad characters
1395     appendEscapingBadChars(p, url + queryStart, queryEnd - queryStart);
1396     m_queryEnd = p - buffer.data();
1397
1398     // add fragment, escaping bad characters
1399     if (fragmentEnd != queryEnd) {
1400         *p++ = '#';
1401         escapeAndAppendNonHierarchicalPart(p, url + fragmentStart, fragmentEnd - fragmentStart);
1402     }
1403     m_fragmentEnd = p - buffer.data();
1404
1405     ASSERT(p - buffer.data() <= static_cast<int>(buffer.size()));
1406     ASSERT(buffer.size() > 0);
1407
1408     // If we didn't end up actually changing the original string and
1409     // it was already in a String, reuse it to avoid extra allocation.
1410     if (originalString && *originalString == buffer)
1411         m_string = *originalString;
1412     else
1413         m_string = String(buffer.data(), m_fragmentEnd);
1414
1415     m_isValid = true;
1416 }
1417
1418 bool equalIgnoringFragmentIdentifier(const KURL& a, const KURL& b)
1419 {
1420     if (a.m_queryEnd != b.m_queryEnd)
1421         return false;
1422     unsigned queryLength = a.m_queryEnd;
1423     for (unsigned i = 0; i < queryLength; ++i)
1424         if (a.string()[i] != b.string()[i])
1425             return false;
1426     return true;
1427 }
1428
1429 bool protocolHostAndPortAreEqual(const KURL& a, const KURL& b)
1430 {
1431     if (a.m_schemeEnd != b.m_schemeEnd)
1432         return false;
1433
1434     int hostStartA = a.hostStart();
1435     int hostLengthA = a.hostEnd() - hostStartA;
1436     int hostStartB = b.hostStart();
1437     int hostLengthB = b.hostEnd() - b.hostStart();
1438     if (hostLengthA != hostLengthB)
1439         return false;
1440
1441     // Check the scheme
1442     for (int i = 0; i < a.m_schemeEnd; ++i)
1443         if (a.string()[i] != b.string()[i])
1444             return false;
1445
1446     // And the host
1447     for (int i = 0; i < hostLengthA; ++i)
1448         if (a.string()[hostStartA + i] != b.string()[hostStartB + i])
1449             return false;
1450
1451     if (a.port() != b.port())
1452         return false;
1453
1454     return true;
1455 }
1456
1457 String encodeWithURLEscapeSequences(const String& notEncodedString)
1458 {
1459     CString asUTF8 = notEncodedString.utf8();
1460
1461     CharBuffer buffer(asUTF8.length() * 3 + 1);
1462     char* p = buffer.data();
1463
1464     const char* str = asUTF8.data();
1465     const char* strEnd = str + asUTF8.length();
1466     while (str < strEnd) {
1467         unsigned char c = *str++;
1468         if (isBadChar(c))
1469             appendEscapedChar(p, c);
1470         else
1471             *p++ = c;
1472     }
1473
1474     ASSERT(p - buffer.data() <= static_cast<int>(buffer.size()));
1475
1476     return String(buffer.data(), p - buffer.data());
1477 }
1478
1479 // Appends the punycoded hostname identified by the given string and length to
1480 // the output buffer. The result will not be null terminated.
1481 static void appendEncodedHostname(UCharBuffer& buffer, const UChar* str, unsigned strLen)
1482 {
1483     // Needs to be big enough to hold an IDN-encoded name.
1484     // For host names bigger than this, we won't do IDN encoding, which is almost certainly OK.
1485     const unsigned hostnameBufferLength = 2048;
1486
1487     if (strLen > hostnameBufferLength || charactersAreAllASCII(str, strLen)) {
1488         buffer.append(str, strLen);
1489         return;
1490     }
1491
1492 #if USE(ICU_UNICODE)
1493     UChar hostnameBuffer[hostnameBufferLength];
1494     UErrorCode error = U_ZERO_ERROR;
1495     int32_t numCharactersConverted = uidna_IDNToASCII(str, strLen, hostnameBuffer,
1496         hostnameBufferLength, UIDNA_ALLOW_UNASSIGNED, 0, &error);
1497     if (error == U_ZERO_ERROR)
1498         buffer.append(hostnameBuffer, numCharactersConverted);
1499 #elif USE(QT4_UNICODE)
1500     QByteArray result = QUrl::toAce(String(str, strLen));
1501     buffer.append(result.constData(), result.length());
1502 #elif USE(GLIB_UNICODE)
1503     GOwnPtr<gchar> utf8Hostname;
1504     GOwnPtr<GError> utf8Err;
1505     utf8Hostname.set(g_utf16_to_utf8(str, strLen, 0, 0, &utf8Err.outPtr()));
1506     if (utf8Err)
1507         return;
1508
1509     GOwnPtr<gchar> encodedHostname;
1510     encodedHostname.set(g_hostname_to_ascii(utf8Hostname.get()));
1511     if (!encodedHostname) 
1512         return;
1513
1514     buffer.append(encodedHostname.get(), strlen(encodedHostname.get()));
1515 #endif
1516 }
1517
1518 static void findHostnamesInMailToURL(const UChar* str, int strLen, Vector<pair<int, int> >& nameRanges)
1519 {
1520     // In a mailto: URL, host names come after a '@' character and end with a '>' or ',' or '?' or end of string character.
1521     // Skip quoted strings so that characters in them don't confuse us.
1522     // When we find a '?' character, we are past the part of the URL that contains host names.
1523
1524     nameRanges.clear();
1525
1526     int p = 0;
1527     while (1) {
1528         // Find start of host name or of quoted string.
1529         int hostnameOrStringStart = findFirstOf(str, strLen, p, "\"@?");
1530         if (hostnameOrStringStart == -1)
1531             return;
1532         UChar c = str[hostnameOrStringStart];
1533         p = hostnameOrStringStart + 1;
1534
1535         if (c == '?')
1536             return;
1537
1538         if (c == '@') {
1539             // Find end of host name.
1540             int hostnameStart = p;
1541             int hostnameEnd = findFirstOf(str, strLen, p, ">,?");
1542             bool done;
1543             if (hostnameEnd == -1) {
1544                 hostnameEnd = strLen;
1545                 done = true;
1546             } else {
1547                 p = hostnameEnd;
1548                 done = false;
1549             }
1550
1551             nameRanges.append(make_pair(hostnameStart, hostnameEnd));
1552
1553             if (done)
1554                 return;
1555         } else {
1556             // Skip quoted string.
1557             ASSERT(c == '"');
1558             while (1) {
1559                 int escapedCharacterOrStringEnd = findFirstOf(str, strLen, p, "\"\\");
1560                 if (escapedCharacterOrStringEnd == -1)
1561                     return;
1562
1563                 c = str[escapedCharacterOrStringEnd];
1564                 p = escapedCharacterOrStringEnd + 1;
1565
1566                 // If we are the end of the string, then break from the string loop back to the host name loop.
1567                 if (c == '"')
1568                     break;
1569
1570                 // Skip escaped character.
1571                 ASSERT(c == '\\');
1572                 if (p == strLen)
1573                     return;
1574
1575                 ++p;
1576             }
1577         }
1578     }
1579 }
1580
1581 static bool findHostnameInHierarchicalURL(const UChar* str, int strLen, int& startOffset, int& endOffset)
1582 {
1583     // Find the host name in a hierarchical URL.
1584     // It comes after a "://" sequence, with scheme characters preceding, and
1585     // this should be the first colon in the string.
1586     // It ends with the end of the string or a ":" or a path segment ending character.
1587     // If there is a "@" character, the host part is just the part after the "@".
1588     int separator = findFirstOf(str, strLen, 0, ":");
1589     if (separator == -1 || separator + 2 >= strLen ||
1590         str[separator + 1] != '/' || str[separator + 2] != '/')
1591         return false;
1592
1593     // Check that all characters before the :// are valid scheme characters.
1594     if (!isSchemeFirstChar(str[0]))
1595         return false;
1596     for (int i = 1; i < separator; ++i) {
1597         if (!isSchemeChar(str[i]))
1598             return false;
1599     }
1600
1601     // Start after the separator.
1602     int authorityStart = separator + 3;
1603
1604     // Find terminating character.
1605     int hostnameEnd = strLen;
1606     for (int i = authorityStart; i < strLen; ++i) {
1607         UChar c = str[i];
1608         if (c == ':' || (isPathSegmentEndChar(c) && c != 0)) {
1609             hostnameEnd = i;
1610             break;
1611         }
1612     }
1613
1614     // Find "@" for the start of the host name.
1615     int userInfoTerminator = findFirstOf(str, strLen, authorityStart, "@");
1616     int hostnameStart;
1617     if (userInfoTerminator == -1 || userInfoTerminator > hostnameEnd)
1618         hostnameStart = authorityStart;
1619     else
1620         hostnameStart = userInfoTerminator + 1;
1621
1622     startOffset = hostnameStart;
1623     endOffset = hostnameEnd;
1624     return true;
1625 }
1626
1627 // Converts all hostnames found in the given input to punycode, preserving the
1628 // rest of the URL unchanged. The output will NOT be null-terminated.
1629 static void encodeHostnames(const String& str, UCharBuffer& output)
1630 {
1631     output.clear();
1632
1633     if (protocolIs(str, "mailto")) {
1634         Vector<pair<int, int> > hostnameRanges;
1635         findHostnamesInMailToURL(str.characters(), str.length(), hostnameRanges);
1636         int n = hostnameRanges.size();
1637         int p = 0;
1638         for (int i = 0; i < n; ++i) {
1639             const pair<int, int>& r = hostnameRanges[i];
1640             output.append(&str.characters()[p], r.first - p);
1641             appendEncodedHostname(output, &str.characters()[r.first], r.second - r.first);
1642             p = r.second;
1643         }
1644         // This will copy either everything after the last hostname, or the
1645         // whole thing if there is no hostname.
1646         output.append(&str.characters()[p], str.length() - p);
1647     } else {
1648         int hostStart, hostEnd;
1649         if (findHostnameInHierarchicalURL(str.characters(), str.length(), hostStart, hostEnd)) {
1650             output.append(str.characters(), hostStart); // Before hostname.
1651             appendEncodedHostname(output, &str.characters()[hostStart], hostEnd - hostStart);
1652             output.append(&str.characters()[hostEnd], str.length() - hostEnd); // After hostname.
1653         } else {
1654             // No hostname to encode, return the input.
1655             output.append(str.characters(), str.length());
1656         }
1657     }
1658 }
1659
1660 static void encodeRelativeString(const String& rel, const TextEncoding& encoding, CharBuffer& output)
1661 {
1662     UCharBuffer s;
1663     encodeHostnames(rel, s);
1664
1665     TextEncoding pathEncoding(UTF8Encoding()); // Path is always encoded as UTF-8; other parts may depend on the scheme.
1666
1667     int pathEnd = -1;
1668     if (encoding != pathEncoding && encoding.isValid() && !protocolIs(rel, "mailto") && !protocolIs(rel, "data") && !protocolIsJavaScript(rel)) {
1669         // Find the first instance of either # or ?, keep pathEnd at -1 otherwise.
1670         pathEnd = findFirstOf(s.data(), s.size(), 0, "#?");
1671     }
1672
1673     if (pathEnd == -1) {
1674         CString decoded = pathEncoding.encode(s.data(), s.size(), URLEncodedEntitiesForUnencodables);
1675         output.resize(decoded.length());
1676         memcpy(output.data(), decoded.data(), decoded.length());
1677     } else {
1678         CString pathDecoded = pathEncoding.encode(s.data(), pathEnd, URLEncodedEntitiesForUnencodables);
1679         // Unencodable characters in URLs are represented by converting
1680         // them to XML entities and escaping non-alphanumeric characters.
1681         CString otherDecoded = encoding.encode(s.data() + pathEnd, s.size() - pathEnd, URLEncodedEntitiesForUnencodables);
1682
1683         output.resize(pathDecoded.length() + otherDecoded.length());
1684         memcpy(output.data(), pathDecoded.data(), pathDecoded.length());
1685         memcpy(output.data() + pathDecoded.length(), otherDecoded.data(), otherDecoded.length());
1686     }
1687     output.append('\0'); // null-terminate the output.
1688 }
1689
1690 static String substituteBackslashes(const String& string)
1691 {
1692     size_t questionPos = string.find('?');
1693     size_t hashPos = string.find('#');
1694     unsigned pathEnd;
1695
1696     if (hashPos != notFound && (questionPos == notFound || questionPos > hashPos))
1697         pathEnd = hashPos;
1698     else if (questionPos != notFound)
1699         pathEnd = questionPos;
1700     else
1701         pathEnd = string.length();
1702
1703     return string.left(pathEnd).replace('\\','/') + string.substring(pathEnd);
1704 }
1705
1706 bool KURL::isHierarchical() const
1707 {
1708     if (!m_isValid)
1709         return false;
1710     ASSERT(m_string[m_schemeEnd] == ':');
1711     return m_string[m_schemeEnd + 1] == '/';
1712 }
1713
1714 void KURL::copyToBuffer(CharBuffer& buffer) const
1715 {
1716     // FIXME: This throws away the high bytes of all the characters in the string!
1717     // That's fine for a valid URL, which is all ASCII, but not for invalid URLs.
1718     buffer.resize(m_string.length());
1719     copyASCII(m_string, buffer.data());
1720 }
1721
1722 bool protocolIs(const String& url, const char* protocol)
1723 {
1724     // Do the comparison without making a new string object.
1725     assertProtocolIsGood(protocol);
1726     for (int i = 0; ; ++i) {
1727         if (!protocol[i])
1728             return url[i] == ':';
1729         if (!isLetterMatchIgnoringCase(url[i], protocol[i]))
1730             return false;
1731     }
1732 }
1733
1734 bool isValidProtocol(const String& protocol)
1735 {
1736     // RFC3986: ALPHA *( ALPHA / DIGIT / "+" / "-" / "." )
1737     if (protocol.isEmpty())
1738         return false;
1739     if (!isSchemeFirstChar(protocol[0]))
1740         return false;
1741     unsigned protocolLength = protocol.length();
1742     for (unsigned i = 1; i < protocolLength; i++) {
1743         if (!isSchemeChar(protocol[i]))
1744             return false;
1745     }
1746     return true;
1747 }
1748
1749 #ifndef NDEBUG
1750 void KURL::print() const
1751 {
1752     printf("%s\n", m_string.utf8().data());
1753 }
1754 #endif
1755
1756 #endif // !USE(GOOGLEURL)
1757
1758 String KURL::strippedForUseAsReferrer() const
1759 {
1760     KURL referrer(*this);
1761     referrer.setUser(String());
1762     referrer.setPass(String());
1763     referrer.removeFragmentIdentifier();
1764     return referrer.string();
1765 }
1766
1767 bool KURL::isLocalFile() const
1768 {
1769     // Including feed here might be a bad idea since drag and drop uses this check
1770     // and including feed would allow feeds to potentially let someone's blog
1771     // read the contents of the clipboard on a drag, even without a drop.
1772     // Likewise with using the FrameLoader::shouldTreatURLAsLocal() function.
1773     return protocolIs("file");
1774 }
1775
1776 bool protocolIsJavaScript(const String& url)
1777 {
1778     return protocolIs(url, "javascript");
1779 }
1780
1781 const KURL& blankURL()
1782 {
1783     DEFINE_STATIC_LOCAL(KURL, staticBlankURL, (ParsedURLString, "about:blank"));
1784     return staticBlankURL;
1785 }
1786
1787 bool isDefaultPortForProtocol(unsigned short port, const String& protocol)
1788 {
1789     if (protocol.isEmpty())
1790         return false;
1791
1792     typedef HashMap<String, unsigned, CaseFoldingHash> DefaultPortsMap;
1793     DEFINE_STATIC_LOCAL(DefaultPortsMap, defaultPorts, ());
1794     if (defaultPorts.isEmpty()) {
1795         defaultPorts.set("http", 80);
1796         defaultPorts.set("https", 443);
1797         defaultPorts.set("ftp", 21);
1798         defaultPorts.set("ftps", 990);
1799     }
1800     return defaultPorts.get(protocol) == port;
1801 }
1802
1803 bool portAllowed(const KURL& url)
1804 {
1805     unsigned short port = url.port();
1806
1807     // Since most URLs don't have a port, return early for the "no port" case.
1808     if (!port)
1809         return true;
1810
1811     // This blocked port list matches the port blocking that Mozilla implements.
1812     // See http://www.mozilla.org/projects/netlib/PortBanning.html for more information.
1813     static const unsigned short blockedPortList[] = {
1814         1,    // tcpmux
1815         7,    // echo
1816         9,    // discard
1817         11,   // systat
1818         13,   // daytime
1819         15,   // netstat
1820         17,   // qotd
1821         19,   // chargen
1822         20,   // FTP-data
1823         21,   // FTP-control
1824         22,   // SSH
1825         23,   // telnet
1826         25,   // SMTP
1827         37,   // time
1828         42,   // name
1829         43,   // nicname
1830         53,   // domain
1831         77,   // priv-rjs
1832         79,   // finger
1833         87,   // ttylink
1834         95,   // supdup
1835         101,  // hostriame
1836         102,  // iso-tsap
1837         103,  // gppitnp
1838         104,  // acr-nema
1839         109,  // POP2
1840         110,  // POP3
1841         111,  // sunrpc
1842         113,  // auth
1843         115,  // SFTP
1844         117,  // uucp-path
1845         119,  // nntp
1846         123,  // NTP
1847         135,  // loc-srv / epmap
1848         139,  // netbios
1849         143,  // IMAP2
1850         179,  // BGP
1851         389,  // LDAP
1852         465,  // SMTP+SSL
1853         512,  // print / exec
1854         513,  // login
1855         514,  // shell
1856         515,  // printer
1857         526,  // tempo
1858         530,  // courier
1859         531,  // Chat
1860         532,  // netnews
1861         540,  // UUCP
1862         556,  // remotefs
1863         563,  // NNTP+SSL
1864         587,  // ESMTP
1865         601,  // syslog-conn
1866         636,  // LDAP+SSL
1867         993,  // IMAP+SSL
1868         995,  // POP3+SSL
1869         2049, // NFS
1870         3659, // apple-sasl / PasswordServer [Apple addition]
1871         4045, // lockd
1872         6000, // X11
1873         6665, // Alternate IRC [Apple addition]
1874         6666, // Alternate IRC [Apple addition]
1875         6667, // Standard IRC [Apple addition]
1876         6668, // Alternate IRC [Apple addition]
1877         6669, // Alternate IRC [Apple addition]
1878         invalidPortNumber, // Used to block all invalid port numbers
1879     };
1880     const unsigned short* const blockedPortListEnd = blockedPortList + WTF_ARRAY_LENGTH(blockedPortList);
1881
1882 #ifndef NDEBUG
1883     // The port list must be sorted for binary_search to work.
1884     static bool checkedPortList = false;
1885     if (!checkedPortList) {
1886         for (const unsigned short* p = blockedPortList; p != blockedPortListEnd - 1; ++p)
1887             ASSERT(*p < *(p + 1));
1888         checkedPortList = true;
1889     }
1890 #endif
1891
1892     // If the port is not in the blocked port list, allow it.
1893     if (!binary_search(blockedPortList, blockedPortListEnd, port))
1894         return true;
1895
1896     // Allow ports 21 and 22 for FTP URLs, as Mozilla does.
1897     if ((port == 21 || port == 22) && url.protocolIs("ftp"))
1898         return true;
1899
1900     // Allow any port number in a file URL, since the port number is ignored.
1901     if (url.protocolIs("file"))
1902         return true;
1903
1904     return false;
1905 }
1906
1907 String mimeTypeFromDataURL(const String& url)
1908 {
1909     ASSERT(protocolIs(url, "data"));
1910     size_t index = url.find(';');
1911     if (index == notFound)
1912         index = url.find(',');
1913     if (index != notFound) {
1914         if (index > 5)
1915             return url.substring(5, index - 5);
1916         return "text/plain"; // Data URLs with no MIME type are considered text/plain.
1917     }
1918     return "";
1919 }
1920
1921 bool protocolIsInHTTPFamily(const String& url)
1922 {
1923     unsigned length = url.length();
1924     const UChar* characters = url.characters();
1925     return length > 4
1926         && isLetterMatchIgnoringCase(characters[0], 'h')
1927         && isLetterMatchIgnoringCase(characters[1], 't')
1928         && isLetterMatchIgnoringCase(characters[2], 't')
1929         && isLetterMatchIgnoringCase(characters[3], 'p')
1930         && (characters[4] == ':'
1931             || (isLetterMatchIgnoringCase(characters[4], 's') && length > 5 && characters[5] == ':'));
1932 }
1933
1934 }