好得很程序员自学网

<tfoot draggable='sEl'></tfoot>

mysql随机查询效率优化

最近由于需要研究了一下MYSQL的随机抽取实现方法。举个例子,要从tablename表中随机提取一条记录,大家一般的写法就是: SELECT * FROM content ORDER BY RAND () LIMIT 1 【3万条记录查询花费 0.3745 秒(下同);从mysql slow query log看出“ORDER BY RAN


最近由于需要研究了一下MYSQL的随机抽取实现方法。举个例子,要从tablename表中随机提取一条记录,大家一般的写法就是:

  SELECT   *   FROM content ORDER BY RAND  ()   LIMIT   1   

【3万条记录查询花费 0.3745 秒(下同);从mysql slow query log看出“ORDER BY RAND() ”全表扫描了2次!】

后来我查了一下MYSQL的官方手册,里面针对RAND()的提示大概意思就是,在ORDER BY从句里面不能使用RAND()函数,因为这样会导致数据列被多次扫描。但是在MYSQL 3.23版本中,仍然可以通过ORDER BY RAND()来实现随机。

但是真正测试一下才发现这样效率非常低。一个15万余条的库,查询5条数据,居然要8秒以上。查看官方手册,也说rand()放在ORDER BY 子句中会被执行多次,自然效率及很低。

搜索Google,采用JOIN,查询max(id) * rand()来随机获取数据。

  SELECT   *   
FROM   `content`   AS t1 JOIN   (  SELECT ROUND  (  RAND  ()  *  (  SELECT MAX  (  id  )   FROM   `content`  ))   AS id  )   AS t2 
WHERE t1  .  id   >=   t2  .  id 
ORDER BY t1  .  id ASC LIMIT   1  ;   

【查询花费 0.0008 秒,飘易认为可以推荐使用这个语句!!】

但是这样会产生连续的5条记录。解决办法只能是每次查询一条,查询5次。即便如此也值得,因为15万条的表,查询只需要0.01秒不到。

有一个方法:

  SELECT   *   FROM   `content`   AS a JOIN   (   SELECT MAX  (   ID   )   AS ID FROM   `content`  )   AS b ON   (   a  .  ID   >=   FLOOR  (   b  .  ID   *   RAND  (  )  )  )   LIMIT   5  ;   

上面这种方式保证了一定范围内的随机,查询花费 0.4265 秒,也不推荐。

下面的语句,mysql的论坛上有人使用

  SELECT   *   
FROM   `content`   
WHERE id   >=  (  SELECT FLOOR  (   MAX  (  id  )  *   RAND  ())   FROM   `content`  )   
ORDER BY id LIMIT   1  ;   

【查询花费 1.2254 秒,飘易强烈不推荐!因为实测后,3万行的表,这个语句竟然会扫描500万行!!】

跟上面的语句还是有很大差距。总觉有什么地方不正常。于是我把语句改写了一下。

    SELECT   *   FROM   `content`   
WHERE id   >=  (  SELECT floor  (  RAND  ()  *  (  SELECT MAX  (  id  )   FROM   `content`  )))    
ORDER BY id LIMIT   1  ;     

【查询花费 0.0012 秒】

这下,效率又提高了,查询时间只有0.01秒

最后,再把语句完善一下,加上MIN(id)的判断。我在最开始测试的时候,就是因为没有加上MIN(id)的判断,结果有一半的时间总是查询到表中的前面几行。

完整查询语句是:

  SELECT   *   FROM   `content`   
WHERE id   >=  (  SELECT floor  (   RAND  ()  *  ((  SELECT MAX  (  id  )   FROM   `content`  )-(  SELECT MIN  (  id  )   FROM   `content`  ))  +  (  SELECT MIN  (  id  )   FROM   `content`  )))    
ORDER BY id LIMIT   1  ;   

【查询花费 0.0012 秒】

  SELECT   *   
FROM   `content`   AS t1 JOIN   (  SELECT ROUND  (  RAND  ()  *  ((  SELECT MAX  (  id  )   FROM   `content`  )-(  SELECT MIN  (  id  )   FROM   `content`  ))+(  SELECT MIN  (  id  )   FROM   `content`  ))   AS id  )   AS t2 
WHERE t1  .  id   >=   t2  .  id 
ORDER BY t1  .  id LIMIT   1  ;   

【查询花费 0.0008 秒】

最后在php中对这两个语句进行分别查询10次,

前者花费时间 0.147433 秒

后者花费时间 0.015130 秒

看来采用JOIN的语法比直接在WHERE中使用函数效率还要高很多。(via)

======================================

【好了,最后飘易来总结下】:

第一种方案,即原始的 Order By Rand() 方法:

  $sql  =  "SELECT * FROM content ORDER BY rand() LIMIT 12"  ;  
$result  =  mysql_query  (  $sql  ,  $conn  );  
$n  =  1  ;  
$rnds  =  ''  ;  while  (  $row  =  mysql_fetch_array  (  $result  )){  
$rnds  =  $rnds  .  $n  .  ".  .  $row  [  'id'  ].  "-"  .  strtolower  (  trim  (  $row  [  'title'  ])).  "'>"  .  $row  [  'title'  ].  "
\n" ; $n ++; }

3万条数据查12条随机记录,需要0.125秒,随着数据量的增大,效率越来越低。

第二种方案,改进后的 JOIN 方法:

  for  (  $n  =  1  ;  $n    12  ;  $n  ++){  
$sql  =  "SELECT * FROM `content` AS t1 
JOIN (SELECT ROUND(RAND() * (SELECT MAX(id) FROM `content`)) AS id) AS t2 
WHERE t1.id >= t2.id ORDER BY t1.id ASC LIMIT 1"  ;  
$result  =  mysql_query  (  $sql  ,  $conn  );  
$yi  =  mysql_fetch_array  (  $result  );  
$rnds   =   $rnds  .  $n  .  ".  .  $yi  [  'id'  ].  "-"  .  strtolower  (  trim  (  $yi  [  'title'  ])).  "'>"  .  $yi  [  'title'  ].  "
\n" ; }

3万条数据查12条随机记录,需要0.004秒,效率大幅提升,比第一种方案提升了约30倍。缺点:多次select查询,IO开销大。

第三种方案,SQL语句先随机好ID序列,用 IN 查询(飘易推荐这个用法,IO开销小,速度最快):

  $sql  =  "SELECT MAX(id),MIN(id) FROM content"  ;  
$result  =  mysql_query  (  $sql  ,  $conn  );  
$yi  =  mysql_fetch_array  (  $result  );  
$idmax  =  $yi  [  0  ];  
$idmin  =  $yi  [  1  ];  
$idlist  =  ''  ;  for  (  $i  =  1  ;  $i    20  ;  $i  ++){  if  (  $i  ==  1  ){   $idlist  =  mt_rand  (  $idmin  ,  $idmax  );  }  else  {   $idlist  =  $idlist  .  ','  .  mt_rand  (  $idmin  ,  $idmax  );  }  }    
$idlist2  =  "id,"  .  $idlist  ;  
$sql  =  "select * from content where id in ($idlist) order by field($idlist2) LIMIT 0,12"  ;   
$result  =  mysql_query  (  $sql  ,  $conn  );  
$n  =  1  ;  
$rnds  =  ''  ;  while  (  $row  =  mysql_fetch_array  (  $result  )){  
$rnds  =  $rnds  .  $n  .  ".  .  $row  [  'id'  ].  "-"  .  strtolower  (  trim  (  $row  [  'title'  ])).  "'>"  .  $row  [  'title'  ].  "
\n" ; $n ++; }

3万条数据查12条随机记录,需要0.001秒,效率比第二种方法又提升了4倍左右,比第一种方法提升120倍。注,这里使用了 order by

field($idlist2) 是为了不排序,否则 IN 是自动会排序的。缺点:有可能遇到ID被删除的情况,所以需要多选几个ID。

测试方法:

  $t   =   microtime  (  true  );  //执行语句  
echo microtime  (  true  )  -   $t  ;   



参考:
http://blog.csdn.net/zxl315/article/details/2435368
http://jan.kneschke.de/projects/mysql/order-by-rand/

查看更多关于mysql随机查询效率优化的详细内容...

  阅读:49次